SK Hynix ได้สนับสนุน Etched, บริษัทใหม่ที่เริ่มต้นการสรุป AI ของสหรัฐอเมริกา ในการสร้างระบบขนาด rack ด้วยเทคโนโลยี Low Voltage Inference (LVI) และ Cluster Scale Memory (CSM) ที่ครอบครองเอง
Etched แก้ไขปัญหาที่สําคัญของอุตสาหกรรม: GPU แบบดั้งเดิมมีพลังงานคอมพิวเตอร์มากเกินไป แต่ไม่มีความจําที่เพียงพอสําหรับการสรุป AI ในขนาดใหญ่ ส่งผลให้มีกรอบการเก็บความซับซ้อน KV หลายชั้นที่คับซ้อนชิปการสรุปที่ปรับปรุงมาเพื่อลดการใช้พลังงาน และได้ผลงานดีกว่า GPU HBM ปรกติในความกว้างแบนด์วิทของความจําและความจุ, ลดความช้าและความซับซ้อนของการออกแบบที่เกี่ยวข้องกับ KV caching
การลงทุนครั้งนี้เกิดขึ้นหลังจากที่บริษัทใหม่ Majestic Labs ของอิสราเอล ออกจากโหมดการปิดบัง โดยบริษัทยังสร้างเซอร์เวอร์สรุปแบบพรสิตตามสั่ง พร้อมกับสระความจําร่วมขนาดใหญ่
ก่อตั้งในปี 2023 ในซานโฮเซ โดยนักศึกษาปริญญาตรีฮาร์วาร์ดสามคนที่ทิ้งการศึกษาทีมแกนของ Etched กลุ่มนี้ประกอบด้วย CEO Gavin Uberti, ประธาน Robert Wachen และ Chris Zhu ทีมได้รับเงิน 250 ดอลลาร์เป็นเวลาสองปี000 Thiel Fellowship เพื่อกระตุ้นการพัฒนาในช่วงต้น.
ทีมงานได้สร้างการประมวลผล LVI ที่กําหนดเอง และความจําร่วม CSM เพื่อเพิ่มประสิทธิภาพการสรุปทําให้การใช้งานการสรุปทางธุรกิจขนาดใหญ่.
จูชูชี้ให้เห็นว่าชิป AI แหล่งหลักต้องเผชิญกับความหน่วงร้อนอย่างรุนแรง ภายใต้ภาระหนัก: การบริโภคพลังงานที่สูงขึ้นจะลดความเร็วของนาฬิกาการลดความสามารถในการสรุปที่จริงลงต่ํากว่าครึ่งหนึ่งของยอดทฤษฎีชิปของ Etched ใช้อุปกรณ์การคํานวณที่ความดันครึ่งหนึ่งของอุตสาหกรรมทั่วไป เพิ่มความหนาแน่นการคํานวณอย่างสําคัญ
เขายังกล่าวถึงข้อเสนอขายของฮาร์ดแวร์หลัก: ชิป AI พร้อม HBM ตามหลัง SRAM ในความเร็วการถอดรหัส เนื่องจากความจําและความจํากัดในการเชื่อมต่อกันขณะที่ชิป SRAM สะสมความหนาแน่นของคอมพิวเตอร์และความจุในการเข้าถึงที่รวดเร็ว, ลดอัตราการผลิตโดยรวม
ซึ่งเป็นการขัดขวางการทํางานของโมเดลขนาดใหญ่ของ MoE เนื่องจากการถ่ายทอดต๊อกเด้งข้ามชั้นผ่านหลายชั้นความจําจะสร้างความช้าอั้น อาร์คิทคัตช์ของ Etched?? กําจัดชั้นความจําที่เหลือเกินเพื่อแก้ปัญหา
สถาปัตยกรรม CSM ของ Etched® สร้างพูลความทรงจําร่วมกันระยะยาวต่ําแบบรวมสําหรับฮาร์ดแวร์ที่สามารถปรับขนาดได้ โดยใช้การเชื่อมต่อความเร็วสูงเพื่อเร่งการเข้าถึงความทรงจําแบบครอสชิป
การออกแบบ HBM / SRAM แบบไฮบริดของมันสมดุลความจุของความจําและความช้าของชิปข้าม, ส่งผลการสรุปปฏิสัมพันธ์ที่มีความเร็วสูงความบกพร่องทางความร้อนและการทํางานของ SRAM สะอาด, DRAM 3 มิติ และการแก้ไขชิปออปติก
นวัตกรรมนี้แยก HBM stack ออกจากข้อจํากัดทางสถาปัตยกรรมของ GPU รวมทรัพยากรความจําที่กระจาย และให้ความเร็วการเข้าถึงระดับ SRAM ผ่านเทคโนโลยีการเชื่อมต่อที่ก้าวหน้า
ระบบ rack ของ Etched มีการวางแผนการเชื่อมต่อสูง โดยมีสายเคเบิลพิเศษ 16 ช่องเชื่อมต่อประตูด้านหลังกับหน่วยฮาร์ดแวร์หลัก 8 หน่วย
ระบบนี้สนับสนุน LLM แหล่งรวม, รูปแบบ MoE และสถาปัตยกรรมที่ไม่ใช่แปลงแบบ Mamba โดยบริษัทเน้นการ R & D ระบบเต็มและขายพาณิชย์
ประวัติการจัดทุน
2022 ลงทะเบียน
2023 ราคาเริ่มต้น 5.4 ล้านดอลลาร์
2024 120 ล้านดอลลาร์
2025 500 ล้านดอลลาร์ ซีรีย์ B
2026 300 ล้านดอลลาร์ ซีรีย์ซี
เงินทุนทั้งหมดจนถึงปัจจุบัน: $925.4M
ซีควอย่า แคปปิตอล นํา Etched ลงทุนรอบ C ปี 2026 โดยมีส่วนร่วมจาก อันเดเรสเซ่น โฮโรวิตซ์, เจน สตรีท และ SK ไฮนิคซ์. ราคารอบนี้มูลค่าบริษัทอยู่ที่ 10.3 พันล้านดอลลาร์, ยกเป็นสองเท่าการมูลค่ารอบ B ปี 2024.
อัตราการรวบรวมทุนประจําปีที่สม่ําเสมอสะท้อนผลการทดลองผลิตภัณฑ์อย่างต่อเนื่อง โดยได้รับการสนับสนุนจากความต้องการของลูกค้าที่แข็งแรงและความมั่นใจของนักลงทุนที่แข็งแรง
วาเฮนบอกว่าทุนใหม่จะเร่งการผลิตกลุ่มสรุปผลิตขนาดใหญ่ บริษัทได้เปิดสถานที่ผลิต 10 เมกะวัตต์ในมิลพิตัสเพื่อเพิ่มประสิทธิภาพการทําต้นแบบและการผลิต
ผู้อํานวยการสถาปัตยกรรม ซาปตาดีป พัล เผยว่า เอชเชดมีพนักงานกว่า 400 คน มีการจองการสั่งซื้อของลูกค้ามากกว่า 1 พันล้านดอลลาร์ปรับปรุงความร่วมมือของผู้จําหน่ายและการทดสอบสินค้าเพื่อสนับสนุนการปรับขนาดอย่างรวดเร็ว.
ลูกค้าหลักของมันรวมถึงบริษัทขนาดใหญ่ ผู้ให้บริการคลาวน์ดที่กําลังเกิด และฮีเพอร์สเกลเลอร์ระดับโลกที่ให้บริการคําสรุป-as-a-service
ความคิดเห็น
ถ้า Etched และ Majestic Labs ราคการสรุปใหม่ย้ายไปนอกจาก KV แคชเกจดั้งเดิม พวกเขาจะปรับปรุงการตลาดการเก็บข้อมูลขององค์กร ระบบเหล่านี้ต้องการความเร็วสูง การเก็บข้อมูลความช้าต่ําสร้างโอกาสในการร่วมมือกับผู้จําหน่ายอย่าง Dell, HPE, NetApp และ VAST Data เพื่อจับคู่การเก็บข้อมูลกับเซอร์เวอร์สรุปรุ่นต่อไปเพื่อให้มีผลงานที่ดีที่สุด
บริษัท เทคโนโลยีจีเทงจี (Beijing Qianxing Jietong Technology Co., Ltd.)
แซนดี้ แยง (Sandy Yang) ผู้อํานวยการยุทธศาสตร์โลก
วอทแอป / เวชแชท: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
เน้นธุรกิจ:
การจัดจําหน่ายสินค้า ICT/การบูรณาการระบบและบริการ/การแก้ไขพื้นฐาน
ด้วยประสบการณ์การจําหน่ายไอที 20 ปีขึ้นไป เราร่วมมือกับแบรนด์ชั้นนําระดับโลก เพื่อให้ผลิตภัณฑ์ที่น่าเชื่อถือและบริการมืออาชีพ
การใช้เทคโนโลยีเพื่อสร้างโลกที่ฉลาด ผู้ให้บริการสินค้า ICT ที่คุณไว้วางใจ
ข้อความของคุณจะต้องอยู่ระหว่าง 20-3,000 ตัวอักษร!
Thai
