ข่าว บริษัท เกี่ยวกับ Panmnesia และ Meta มองชิปเดี่ยวที่ใช้ CXL เป็นศูนย์กลางสำหรับศูนย์ข้อมูล AI

Panmnesia ซัพพลายเออร์เทคโนโลยี Meta และ CXL กล่าวว่าศูนย์ข้อมูล AI จำเป็นต้องดูเป็นทรัพยากรการประมวลผลที่มีการประสานงานเพียงแห่งเดียว ไม่ใช่ชุดเซิร์ฟเวอร์อิสระที่ตั้งอยู่ร่วมกัน

ศูนย์ข้อมูล AI ควรเป็นทรัพยากรที่เชื่อมโยงกันอย่างแน่นหนา โดยมีโดเมนการเชื่อมโยงกันเพียงโดเมนเดียว เช่น ชิป CPU สิ่งนี้แตกต่างจากศูนย์ข้อมูลระดับองค์กรที่มีอยู่ซึ่งเชื่อมต่อกันอย่างอิสระและขับเคลื่อนด้วยคำขอ ซึ่งมีโดเมนการเชื่อมโยงกันจำนวนมาก ศูนย์ข้อมูล AI สามารถดำเนินงานเดียวโดยใช้ GPU หลายร้อยหรือหลายพันตัว ซึ่งคล้ายกับปริมาณงานการประมวลผลประสิทธิภาพสูงที่เกี่ยวข้องกับแกนประมวลผล หน่วยความจำ และลิงก์เครือข่ายที่ประสานงานกัน

Panmnesia และ Meta ได้ร่วมกันเสนอสถาปัตยกรรมศูนย์ข้อมูล AI ยุคถัดไปเช่นนี้ ซึ่งศูนย์ข้อมูลทำงานเหมือนชิปตัวเดียว งานนี้ปรากฏใน NREE ซึ่งเป็นวารสาร Nature Portfolio

มยองซู จุง
Myoungsoo Jung ซีอีโอของ Panmnesia กล่าวว่า "ในขณะที่ระบบ AI ยังคงขยายขนาด ความสามารถในการเชื่อมต่อตัวเร่งความเร็วและอุปกรณ์หน่วยความจำจำนวนมากได้อย่างรวดเร็วและมีประสิทธิภาพก็มีความสำคัญพอ ๆ กับประสิทธิภาพของตัวเร่งความเร็วแต่ละตัว การวิจัยนี้ สรุปทิศทางสำหรับโครงสร้างพื้นฐาน AI รุ่นต่อไป โดยที่ CXL ช่วยให้ศูนย์ข้อมูลทั้งหมดทำงานเป็นระบบคอมพิวเตอร์เดียว"

ส่วนประกอบบนชิปประมวลผล คอร์ ฯลฯ ตัวเดียวได้รับการออกแบบและวางเพื่อให้มีเส้นทางลิงก์ที่สม่ำเสมอในโดเมนการเชื่อมโยงกันเดียว และทำงานในลักษณะที่กำหนดเวลา ประสานงาน และควบคุม ในทางตรงกันข้าม ศูนย์ข้อมูลที่มีอยู่มีโปรเซสเซอร์เซิร์ฟเวอร์และพื้นที่จัดเก็บข้อมูลในชั้นวางแบบชั้นวางพร้อมลิงก์เครือข่ายและสวิตช์ในชั้นวางและระหว่างชั้นวาง ไม่มีโครงสร้างการควบคุมเพื่อให้การประมวลผลเซิร์ฟเวอร์ประสานกัน

ศูนย์ข้อมูลแบบชิป
Panmnesia กล่าวว่า: “ในศูนย์ข้อมูลปัจจุบัน ตัวเร่งความเร็วภายในแร็คจะเชื่อมต่อกันด้วยการเชื่อมต่อระหว่างกันที่ขยายขนาดอย่างรวดเร็ว ในขณะที่การเชื่อมต่อที่ออกจากแร็ค — และการเชื่อมต่อกับอุปกรณ์อื่นที่ไม่ใช่ตัวเร่งความเร็ว — ขึ้นอยู่กับเครือข่ายที่ขยายขนาดออกช้ากว่า การวัดสภาพแวดล้อมดังกล่าวแสดงการกระจายเวลาแฝงแบบหนัก โดยมีเวลาแฝงไปกลับที่ 99 เปอร์เซ็นต์ประมาณห้าเท่าของค่ามัธยฐาน นี่คือสิ่งที่ทำให้งานโดยรวมกลับมาและยิ่งมีอุปกรณ์เข้าร่วมมากเท่าไรก็ยิ่งบ่อยขึ้นและ มันเกิดขึ้นรุนแรงยิ่งขึ้น”

เพื่อให้ศูนย์ข้อมูล AI ทำงานได้อย่างมีประสิทธิภาพและรวดเร็ว จำเป็นต้องมีการควบคุมและการประสานงานทั้งในแร็คและระหว่างแร็คของ GPU หน่วยความจำ และพื้นที่จัดเก็บข้อมูล ในโครงสร้างพื้นฐาน AI ขนาดใหญ่ กล่าวว่าการลดความแปรผันของเวลาในการตอบสนองระหว่างอุปกรณ์ เพื่อให้ศูนย์ข้อมูลโดยรวมมีพฤติกรรมที่คาดการณ์ได้ มีความสำคัญพอๆ กับการปรับปรุงประสิทธิภาพของอุปกรณ์แต่ละเครื่องหรือความเร็วลิงก์

แพนนีเซีย LAU
Meta และ Panmnesia กำลังเสนอให้ใช้ CXL เป็นพื้นฐานสำหรับสิ่งนี้ โดยมีแนวคิดใหม่ที่ทำให้สามารถทำงานได้ในระดับ multi-GPU-rack Extended CXL มอบการเชื่อมโยงแคชระหว่างแร็คตัวเร่งความเร็วในโครงร่าง โดยรองรับอุปกรณ์จำนวนมากกว่า GB200 NVL72 และ UALink ที่ใช้ NVLink บน NVLink ระดับแร็คของ Nvidia

นี่เป็นการกำหนดกฎพื้นฐานสำหรับการรวมอุปกรณ์เข้าด้วยกัน แต่ไม่ใช่การกำหนดเส้นทางข้อมูลและเวลาในการตอบสนอง พวกเขาเสนอองค์ประกอบฮาร์ดแวร์เฉพาะสามประการเพื่อลดและจำกัดความแปรผันของเวลาแฝง:
สวิตช์แบบไม่ปิดกั้นพัดลมออกสูง: เชื่อมต่ออุปกรณ์จำนวนมากพร้อมกัน ลดจำนวนฮ็อปและรักษาความยาวเส้นทางให้ใกล้เคียงกันโดยไม่คำนึงถึงแหล่งที่มา
Link Acceleration Unit (LAU): ย้ายการประมวลผลโปรโตคอลที่ซ้ำกันในแต่ละจุดเชื่อมต่อไปยังไปป์ไลน์ฮาร์ดแวร์เฉพาะ ทำให้พฤติกรรมระดับฮอปมีความสม่ำเสมอมากขึ้นและมีการเปลี่ยนแปลงเวลาแฝงที่มีขอบเขตมากขึ้น
Fabric controller: ใช้นโยบายการสั่งซื้อเดียวกันสำหรับการจัดการคำขอทั่วทั้งระบบ เพื่อให้ธุรกรรมได้รับการประมวลผลอย่างสม่ำเสมอไม่ว่าจะผ่านอุปกรณ์ใดก็ตาม

Panmnesia สวิตช์พัดลมออกสูงและไม่ปิดกั้น
ตัวควบคุมแฟบริค (ตัวควบคุม CXL/PCIe แบบรวม) และ LAU ได้ทำการตรวจสอบความถูกต้องของซิลิคอนเรียบร้อยแล้ว และสวิตช์แฟบริคได้รับการประดิษฐ์ขึ้นเป็นชิปซิลิกอนทางกายภาพ โดยขณะนี้มีการจัดหาซิลิคอนก่อนวางจำหน่ายแล้ว สิ่งนี้แสดงให้เห็นว่าสถาปัตยกรรมที่นำเสนอนั้นอยู่ในระดับเดียวกับซิลิคอนที่ผลิตได้

สถาปัตยกรรมของพวกเขาจัดกลุ่ม CPU ตัวเร่งความเร็ว หน่วยความจำ และสวิตช์ตามฟังก์ชันลงในถาด จัดกลุ่มถาดลงในพ็อด และเชื่อมต่อพ็อดผ่านแฟบริค ซึ่งเป็นลำดับชั้นของถาด–พ็อด–แฟบริคปกติที่ออกแบบมาเพื่อรักษาเส้นทางและเวลาการสื่อสารแบบคงที่และสม่ำเสมอมากขึ้น

ตัวควบคุมผ้า Panmnesia
เมื่อเปรียบเทียบกับการออกแบบของ Nvidia ซึ่ง CPU หนึ่งตัวเชื่อมต่อกับตัวเร่งความเร็วสองตัวบน NVLink-C2C ภายในแร็คจะเชื่อมต่อกันด้วย NVLink และเซิร์ฟเวอร์และแร็คจะเชื่อมต่อกันด้วยเครือข่ายแบบขยายขนาด เช่น Ethernet หรือ InfiniBand โครงร่างของพวกมัน:
ให้การเร่งความเร็วเพิ่มขึ้น 8 เท่าซึ่งประสานงานโดยตรงด้วย CPU ตัวเดียว ตั้งแต่ 2 ถึง 16
ช่วยให้ตัวเร่งความเร็วสูงสุด 960 ตัวทำงานร่วมกันในโดเมนการเชื่อมโยงกันเดียว
ลดเวลาแฝงในการเข้าถึงข้อมูลจากระดับไมโครวินาทีเหลือหลายร้อยนาโนวินาที ประมาณลำดับความสำคัญที่ต่ำกว่า
หน่วยทดแทนที่ล้มเหลวจะกลายเป็นอุปกรณ์ตัวเดียวที่ชำรุดแทนที่จะเป็นเซิร์ฟเวอร์ การแยกทรัพยากรตามประเภทช่วยให้ระบบสามารถเปลี่ยนเฉพาะอุปกรณ์ที่ชำรุด แทนที่จะเปลี่ยนทั้งเซิร์ฟเวอร์ หลีกเลี่ยงทรัพยากรที่สูญเปล่าและการหยุดการปฏิบัติงานเป็นเวลานาน

Panmnesia ได้นำส่วนประกอบหลักของสถาปัตยกรรมมาใช้ในซิลิคอนแล้ว การตรวจสอบความถูกต้องเสร็จสมบูรณ์ และขณะนี้กำลังเตรียมส่วนประกอบเหล่านั้นสำหรับการจัดหาเชิงพาณิชย์ การพัฒนาในอนาคตกำลังมองหาการเชื่อมต่อระหว่างกันแบบออปติกเพื่อเพิ่มความเร็วและความสามารถในการขยายขนาด

บูตโน้ต
มีการอ้างอิงบทความ NREE

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
มุ่งเน้นธุรกิจ:
การจัดจำหน่ายผลิตภัณฑ์ ICT/บูรณาการระบบและบริการ/โซลูชั่นโครงสร้างพื้นฐาน
ด้วยประสบการณ์การจัดจำหน่ายด้านไอทีมากกว่า 20 ปี เราร่วมมือกับแบรนด์ชั้นนำระดับโลกเพื่อนำเสนอผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
“ใช้เทคโนโลยีเพื่อสร้างโลกอัจฉริยะ” ผู้ให้บริการผลิตภัณฑ์ ICT ที่เชื่อถือได้ของคุณ!