ภาคส่วนแฟลชและหน่วยความจำทั่วโลกมีความเคลื่อนไหวอย่างเข้มข้นในช่วงสุดสัปดาห์ โดยมีข้อพิพาทระหว่าง Micron และ Apple, การเจรจาจัดหาชิปของ Anthropic กับ SK Hynix, ความร่วมมือใหม่ระหว่าง Nvidia และ SK Hynix, ความคืบหน้าของ SK Hynix ในด้าน 3D DRAM และนวัตกรรม CXL memory pooling ของ Samsung
SK Hynix ครองข่าวอุตสาหกรรมล่าสุด นักวิเคราะห์ Citrini Jukan ยืนยันว่าบริษัทกำลังพัฒนา 3D stacked DRAM โดยได้รับการสนับสนุนจากการสรรหาบุคลากรด้านวิศวกรออกแบบ 3D-stacked DRAM-on-logic ผ่านบริษัทสาขาในสหรัฐอเมริกาที่ซานโฮเซ การสรรหานี้มุ่งเป้าไปที่ผู้มีความสามารถในการออกแบบร่วมกันของ 3D-stacked DRAM logic dies กับลูกค้าหลายรายในสหรัฐอเมริกา
สถาปัตยกรรมใหม่นี้วางชั้น 3D DRAM ซ้อนทับบนโปรเซสเซอร์เซมิคอนดักเตอร์ของระบบ การรวม DRAM และ logic บน die เดียวกันช่วยให้การเชื่อมต่อระหว่างชิปเร็วขึ้นและใช้พลังงานน้อยลงกว่าการเชื่อมต่อแบบ package-on-package (PoP) แบบดั้งเดิมของแพ็คเกจหน่วยความจำและ logic ที่แยกจากกัน
Jukan ระบุว่าเทคโนโลยีนี้มุ่งเป้าไปที่อุปกรณ์ที่ใช้ AI ซึ่งต้องการแบนด์วิดท์หน่วยความจำสูงและการใช้พลังงานต่ำ โดยเฉพาะอย่างยิ่งโปรเซสเซอร์แอปพลิเคชันมือถือสมาร์ทโฟน ซึ่งทำให้ Apple เป็นลูกค้าที่มีศักยภาพสำคัญสำหรับ SK Hynix
SK Group ได้ขยายความร่วมมือเชิงกลยุทธ์กับ Nvidia ผ่านหนังสือแสดงเจตจำนงอย่างเป็นทางการ โดยสร้างความร่วมมือที่มีมูลค่ากว่า 5 แสนล้านดอลลาร์ SK Telecom จะสร้าง Nvidia Vera Rubin DSX AI Factory ขนาด 2 กิกะวัตต์ ในฐานะผู้ให้บริการคลาวด์รายใหม่เพื่อตอบสนองความต้องการด้านการประมวลผลทั่วโลก ชิป Vera Rubin จะใช้หน่วยความจำ HBM4 ของ SK Hynix โดย AI Factory แห่งแรกมีกำหนดเปิดตัวในปี 2027
ความร่วมมือนี้มีเป้าหมายเพื่อเร่งการพัฒนาโครงสร้างพื้นฐาน AI ขนาดใหญ่ ครอบคลุมบริการ AI ของรัฐ, กายภาพ, เอเจนต์ และองค์กร และตอบสนองความต้องการ AI ที่เพิ่มขึ้นทั่วทั้งเกาหลีใต้และภูมิภาคเอเชียแปซิฟิก SK Hynix จะเปิดตัวความร่วมมือด้านหน่วยความจำ AI ระยะยาวกับ Nvidia เพื่อให้แน่ใจว่ามีการจัดหาหน่วยความจำ AI รุ่นใหม่ที่เสถียรสำหรับ Nvidia ในขณะที่เพิ่มขีดความสามารถในการผลิตของ SK Hynix ทั้งสองฝ่ายจะร่วมกันพัฒนาและปรับปรุง HBM และโซลูชันหน่วยความจำ AI อื่นๆ สำหรับการฝึกอบรม LLM, สถานการณ์ AI แบบเอเจนต์และกายภาพ
Chey Tae-won ประธาน SK Group กล่าวว่าความร่วมมือนี้จะใช้ประโยชน์จากหน่วยความจำ AI ของ SK Hynix และจุดแข็งด้านโครงสร้างพื้นฐานของ SK Telecom เพื่อสร้างโรงงาน AI ระดับโลก เปลี่ยนเกาหลีใต้จากการเป็นผู้รับเทคโนโลยี AI ไปสู่ศูนย์กลางนวัตกรรม AI ระดับโลก
Pat Gelsinger อดีต CEO ของ Intel ได้วิพากษ์วิจารณ์ HBM อย่างเปิดเผยในการพูดคุยกับอุตสาหกรรมในเกาหลี โดยเรียกมันว่าเป็นโซลูชันหน่วยความจำที่ไม่สมบูรณ์ เขาชี้ให้เห็นข้อบกพร่องหลักของ HBM: ปัญหาการซ้อนชั้นความร้อน, ข้อจำกัดในการเชื่อมต่อที่ถูกจำกัดโดยขอบ GPU, ประสิทธิภาพพลังงานต่ำ และประสิทธิภาพบิตต่ำ โดยเสียบิตหน่วยความจำประมาณสี่บิตต่อบิตที่ใช้งานได้จริง อย่างไรก็ตาม Gelsinger ยอมรับว่า HBM เป็นโซลูชันที่ดีที่สุดที่มีอยู่ในปัจจุบัน
Hoshik Kim รองประธานอาวุโสของ SK Hynix ได้เห็นด้วยกับมุมมองของ Gelsinger บางส่วน โดยระบุว่า HBM ไม่สามารถแก้ไขปัญหาคอขวดของหน่วยความจำใน AI ได้อย่างแท้จริง เขาชี้แจงว่า HBM เป็นเพียงมาตรการบรรเทาชั่วคราว ในขณะที่ SK Hynix กำลังพัฒนาโซลูชันทางเลือกเพื่อแก้ไขปัญหาคอขวดของหน่วยความจำหลัก
ตามรายงานของ Bloomberg บริษัท AI ชั้นนำของสหรัฐฯ Anthropic กำลังเจรจากับ SK Hynix เพื่อจัดหาชิปหน่วยความจำเฉพาะเพื่อรองรับโปรเซสเซอร์ AI ที่ออกแบบเองภายในบริษัท Chey Tae-won ประธาน SK Group เปิดเผยข่าวนี้ในการประชุมสุดยอด AI ที่ซานฟรานซิสโกเมื่อเดือนกรกฎาคม 2024 ซึ่ง Dario Amodei CEO ของ Anthropic ก็ได้กล่าวปราศรัยเช่นกัน โดยชื่นชมเป้าหมายการพัฒนาฮาร์ดแวร์ที่ทะเยอทะยานของ Anthropic ท่ามกลางความพยายามของอุตสาหกรรมอย่างกว้างขวางในการทำลายการครอบงำของ GPU ของ Nvidia Amodei ไม่ได้ตอบสนองต่อความคิดเห็นดังกล่าวต่อสาธารณะ
Samsung ประสบความสำเร็จในการทำงานใกล้เคียงกับ DRAM สำหรับเวิร์กโหลด AI inference โดยใช้หน่วยความจำ CXL แบบรวมภายนอกสำหรับการ offload KV cache ตามบล็อกเทคนิคอย่างเป็นทางการ LLM อาศัย KV cache เพื่อจัดเก็บค่า key และ value ที่คำนวณได้เพื่อลดความหน่วงในการ inference และการคำนวณซ้ำซ้อน อย่างไรก็ตาม โมเดลขนาดใหญ่ต้องการแคชหลายร้อยกิกะไบต์ ซึ่งเกินหน่วยความจำของโปรเซสเซอร์ AI บนบอร์ดได้อย่างง่ายดาย การ offload ผ่าน SSD หรือเครือข่ายแบบดั้งเดิมช่วยลดข้อจำกัดด้านความจุ แต่ก็เพิ่มความหน่วงและแบนด์วิดท์ที่มากเกินไป
เทคโนโลยี CXL ทำลายข้อจำกัดทางกายภาพของ DRAM แบบดั้งเดิมผ่านการเชื่อมต่อ PCIe ที่มีความสอดคล้องกันและมีแบนด์วิดท์สูง ทำให้สามารถขยายขนาดหน่วยความจำแบบรวมไปยังอุปกรณ์หลายเครื่องผ่านสวิตช์ CXL CMM-D (CXL Memory Module-DRAM) ของ Samsung ถูกสร้างขึ้นมาเพื่อสถาปัตยกรรมหน่วยความจำที่ขยายใหญ่นี้โดยเฉพาะ
Samsung ได้ทดสอบโมดูล CMM-D กับ Nvidia RTX PRO 6000 Blackwell GPU ผ่าน PCIe Gen5 โดยสร้างหน่วยความจำ CXL แบบรวมขนาด 1TB ด้วยการปรับปรุงซอฟต์แวร์ vLLM และ LMCache การทดสอบยืนยันว่าหน่วยความจำแบบรวมรองรับการ offload KV cache ขนาดใหญ่ด้วยประสิทธิภาพใกล้เคียงกับ DRAM ในการตั้งค่า GPU เดียว การรวม CXL ที่ปรับปรุงแล้วให้ประสิทธิภาพเทียบเท่า DRAM โดยมี LMCache เป็นแบ็กเอนด์ ในสภาพแวดล้อมแบบหลาย GPU แปดตัว มันยังคงรักษาประสิทธิภาพการทำงานของ DRAM ดั้งเดิมได้ 92% ด้วยความจุหน่วยความจำที่มากกว่ามาก
การทดสอบเพิ่มเติมเปรียบเทียบการตั้งค่า DRAM ในเครื่องขนาด 512GB และหน่วยความจำ CXL แบบรวมขนาด 1TB ภายใต้ภาระ KV cache ที่เพิ่มขึ้น DRAM ในเครื่องประสบปัญหาประสิทธิภาพลดลงอย่างรุนแรงจากการคำนวณแคชซ้ำๆ เมื่อเกินความจุ ในขณะที่หน่วยความจำ CXL แบบรวมยังคงรักษาประสิทธิภาพที่เสถียรและรองรับพื้นที่แคชที่ใหญ่กว่ามาก รายละเอียดการทดสอบทั้งหมดมีอยู่ในเอกสารไวท์เปเปอร์ที่ดาวน์โหลดได้ของ Samsung
Samsung ระบุว่าการใช้งาน CXL switch ในปัจจุบันต้องมีการปรับเปลี่ยนเคอร์เนลระดับโฮสต์และซอฟต์แวร์สำหรับ LMCache และส่วนประกอบอื่นๆ อย่างไรก็ตาม การรวมหน่วยความจำตาม CXL 3.0 แสดงให้เห็นถึงศักยภาพในการใช้งานที่แข็งแกร่ง โดยมีระบบนิเวศที่เติบโตอย่างต่อเนื่องผ่าน Intel DMR, AMD Venice และแพลตฟอร์ม CXL 3.0 switch ใหม่เพื่อขจัดข้อจำกัดทางเทคนิคที่มีอยู่
สุดท้าย ความขัดแย้งที่เพิ่มขึ้นได้เกิดขึ้นระหว่าง Micron และ Apple โดยอ้างอิงจากรายงานของ WSJ Jukan ของ Citrini เปิดเผยว่า Apple กำลังล็อบบี้ทำเนียบขาวเพื่อขออนุมัติในการใช้ CXMT DRAM ที่อยู่ในรายชื่อของจีนในอุปกรณ์ของตน ในขณะที่ Micron กำลังยื่นอุทธรณ์คัดค้านการนำชิป CXMT มาใช้ ความขัดแย้งนี้มีต้นตอมาจากความไม่พอใจที่ยาวนานของ Sanjay Mehrotra CEO ของ Micron ซึ่งย้อนกลับไปในช่วงที่เขาดำรงตำแหน่งที่ Sandisk เมื่อ Apple บังคับให้ตั้งราคาแฟลชเมมโมรี่ต่ำในช่วงที่ตลาดเป็นของผู้ซื้อ ด้วยตลาดหน่วยความจำในปัจจุบันที่เอื้อประโยชน์ต่อผู้จำหน่าย Mehrotra จึงไม่เต็มใจที่จะลดข้อจำกัดด้านราคาและอุปทานสำหรับ Apple
ปักกิ่ง เฉียนซิง เจียถง เทคโนโลยี จำกัด
แซนดี้ หยาง / ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
ธุรกิจหลัก:
การจัดจำหน่ายผลิตภัณฑ์ ICT / การบูรณาการระบบและบริการ / โซลูชันโครงสร้างพื้นฐาน
ด้วยประสบการณ์ด้านการจัดจำหน่ายไอทีมากกว่า 20 ปี เราเป็นพันธมิตรกับแบรนด์ชั้นนำระดับโลกเพื่อส่งมอบผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
“ใช้เทคโนโลยีเพื่อสร้างโลกที่ชาญฉลาด” ผู้ให้บริการผลิตภัณฑ์ ICT ที่คุณไว้วางใจ!
ข้อความของคุณจะต้องอยู่ระหว่าง 20-3,000 ตัวอักษร!
Thai
