ภูมิทัศน์พื้นที่จัดเก็บข้อมูลสำหรับการฝึกอบรม AI และการอนุมานถูกครอบงำโดยไฟล์ระดับกลางและการจัดเก็บอ็อบเจ็กต์ที่ปรับขนาดออก ซึ่งรองรับ NVIDIA GPU Direct, KV Caches และสถาปัตยกรรม STX เพื่อให้ GPU ประมวลผลข้อมูลโทเค็น ข้อมูลระดับองค์กรจำนวนมหาศาลยังคงอยู่ในอาร์เรย์เสาหินระดับไฮเอนด์จาก Dell PowerMax, Hitachi Vantara VSP One Block High End, IBM DS6000 และ Lenovo InfiniBox — ไม่มีสิ่งใดเลยที่รองรับ STX และส่วนประกอบที่เกี่ยวข้องเราได้สัมภาษณ์ David Chapa หัวหน้านักยุทธศาสตร์ AI ที่ Hitachi Vantara เพื่อสำรวจช่องว่างนี้
Chapa กล่าวว่า NVIDIA BlueField-4 STX ถือเป็นวิวัฒนาการที่กว้างขึ้นของสถาปัตยกรรมโครงสร้างพื้นฐาน AI อาร์เรย์องค์กรแบบดั้งเดิมสร้างขึ้นเพื่อการจัดการคำขอพื้นที่จัดเก็บข้อมูลที่มีประสิทธิภาพ ในขณะที่ STX จะเปลี่ยนการสร้างมูลค่าในโครงสร้างพื้นฐาน AI อาเรย์ระดับไฮเอนด์แบบเดิมให้ความสำคัญกับความทนทาน ความยืดหยุ่น ประสิทธิภาพ เวลาทำงาน และบริการข้อมูลแบบรวมศูนย์ ในทางตรงกันข้าม STX ได้ฝังความชาญฉลาดมากขึ้นไว้ในเวิร์กโฟลว์การประมวลผลข้อมูล ทำให้การรักษาความปลอดภัย การจัดระเบียบ ท้องถิ่นของข้อมูล การประสานงานหน่วยความจำ และบริการข้อมูลใกล้กับ GPU และสภาพแวดล้อมรันไทม์ของ AI มากขึ้น
จุดสนใจหลักไม่ได้อยู่ที่ว่าความสามารถเหล่านี้จะต้องทำงานแบบเนทิฟบนอาร์เรย์การจัดเก็บข้อมูลหรือไม่ แต่จะต้องทำอย่างไรจึงจะปรับใช้ความสามารถเหล่านี้อย่างเหมาะสมที่สุดในไปป์ไลน์ข้อมูล AI Hitachi Vantara ไม่ได้มองว่าความไม่เข้ากันในปัจจุบันเป็นข้อจำกัดของอาร์เรย์ แต่เป็นทางเลือกทางสถาปัตยกรรมตามธรรมชาติท่ามกลางโครงสร้างพื้นฐาน AI ที่พัฒนาแล้ว อาเรย์ระดับองค์กรระดับสูงยังคงมีความสำคัญต่อการให้บริการข้อมูลที่เชื่อถือได้ รวมถึงความยืดหยุ่น ความพร้อมใช้งาน ประสิทธิภาพ ความทนทาน และการจัดการแบบครบวงจร
เนื่องจากไปป์ไลน์ข้อมูล AI ต้องพึ่งพาบริการที่เร่งด้วย DPU, เลเยอร์การประสาน, แคช และการดำเนินการที่คำนึงถึงท้องถิ่นมากขึ้น ฟังก์ชันบางอย่างจะย้ายไปใกล้กับทรัพยากรการประมวลผลมากขึ้น ในขณะที่อาร์เรย์ระดับองค์กรยังคงมุ่งเน้นไปที่จุดแข็งหลัก นั่นคือ บริการข้อมูลที่เชื่อถือได้
เมื่อถูกถามว่าในที่สุดอาร์เรย์ระดับไฮเอนด์ของ Hitachi Vantara จะรวมเข้ากับ NVIDIA STX หรือไม่ Chapa กล่าวว่า STX และ CMX เป็นตัวแทนของความสำเร็จทางวิศวกรรมที่สำคัญ การอภิปรายไม่เกี่ยวกับแผนงานผลิตภัณฑ์ แต่เกี่ยวกับการวางตำแหน่งทางสถาปัตยกรรมสำหรับระบบ AI ที่พัฒนา
โครงสร้างพื้นฐาน AI สมัยใหม่เผยให้เห็นข้อจำกัดที่ไม่เคยรวมอยู่ในสถาปัตยกรรมองค์กรแบบดั้งเดิม ความท้าทายในปัจจุบันไม่ได้อยู่ที่พื้นที่จัดเก็บข้อมูลแบบสแตนด์อโลน GPU หรือประสิทธิภาพของเครือข่าย แต่อยู่ที่การทำงานร่วมกันของข้อมูล หน่วยความจำ การประมวลผล ความปลอดภัย และการประสานงานตามขนาดการใช้งาน AI
STX รวมไปป์ไลน์ข้อมูล AI มากขึ้นไว้ในสแต็กรวมของ NVIDIA ผ่านทาง BlueField DPUs การออกแบบเครือข่ายและการอ้างอิงที่กำหนดรูปแบบการบูรณาการและการสร้างความแตกต่างของผู้ขาย CMX กำหนดเป้าหมายหน่วยความจำบริบท แคช KV และสถานะการอนุมานโดยเฉพาะ Hitachi Vantara ไม่ได้มองว่าเทคโนโลยีเหล่านี้เป็นความพยายามที่จะหลีกเลี่ยงพื้นที่จัดเก็บข้อมูลขององค์กร แต่เนื่องจากอุตสาหกรรมแยกระหว่างข้อมูลสองประเภทที่แตกต่างกัน ได้แก่ ข้อมูลรันไทม์ชั่วคราวสำหรับงาน AI และข้อมูลองค์กรที่ได้รับการควบคุมอย่างต่อเนื่องซึ่งมีอยู่นานหลังจากงาน AI เสร็จสิ้น
ข้อมูลทั้งสองประเภทมีข้อจำกัดในการดำเนินงานที่แตกต่างกัน แคช KV และบริบทการอนุมานมีอายุสั้นและไวต่อความหน่วง ทำให้เหมาะกว่าที่จะทำงานใกล้กับ GPU ระดับหน่วยความจำ หรือรันไทม์ AI จากการเปรียบเทียบ ข้อมูลธุรกิจหลัก การควบคุมการปฏิบัติตามข้อกำหนด และบริการข้อมูลทั่วทั้งองค์กรจำเป็นต้องมีโครงสร้างพื้นฐานที่แข็งแกร่งซึ่งสร้างขึ้นสำหรับการใช้งานในระยะยาว การกำกับดูแล ความยืดหยุ่น และการปฏิบัติการขององค์กรขนาดใหญ่
สำหรับ Hitachi Vantara การเปิดใช้งานการสนับสนุน STX บนอาร์เรย์ระดับไฮเอนด์นั้นเป็นมากกว่าการอัพเดตเฟิร์มแวร์ธรรมดาๆ โดยเกี่ยวข้องกับการพิจารณาพื้นฐานเกี่ยวกับท้องถิ่นของข้อมูล โหลดหน่วยความจำ ความคงอยู่ของข้อมูล ขอบเขตความปลอดภัย การประสาน และการจัดวางบริการโครงสร้างพื้นฐานที่เหมาะสมที่สุด
ลำดับความสำคัญคือการกำหนดตำแหน่งการทำงานเมื่อโครงสร้างพื้นฐาน AI เติบโต ระบุจุดสร้างความแตกต่าง กำหนดขอบเขตการบูรณาการที่เหมาะสม และจัดสรรทรัพยากรทางวิศวกรรมเพื่อเพิ่มมูลค่าสูงสุดให้กับลูกค้า
NVIDIA ได้จัดการปัญหาคอขวดที่สำคัญในโครงสร้างพื้นฐาน AI อย่างมีประสิทธิภาพ แต่แนวทางทางสถาปัตยกรรมไม่เหมาะกับลูกค้า ปริมาณงาน หรือกลยุทธ์แพลตฟอร์มทั้งหมด Hitachi Vantara แยกแยะการเปลี่ยนแปลงทางสถาปัตยกรรมที่ยั่งยืนจากแนวโน้มคุณสมบัติในระยะสั้น ประเมินการบูรณาการที่นำมาซึ่งคุณค่าที่จับต้องได้ และกำหนดทิศทางความพยายามในการพัฒนาเพื่อมอบผลประโยชน์สูงสุดให้กับผู้ใช้
Hitachi Vantara วางตำแหน่งอาร์เรย์ระดับองค์กรระดับไฮเอนด์ไว้นอกห่วงโซ่การส่งข้อมูลโดยตรงสำหรับเซิร์ฟเวอร์ GPU โดยถือว่าการบูรณาการดังกล่าวไม่เหมาะสมทางสถาปัตยกรรม แพลตฟอร์มเหล่านี้ทำหน้าที่เป็นระบบบันทึกหลักที่ได้รับการปรับให้เหมาะสมเพื่อความทนทาน การกำกับดูแล ความยืดหยุ่น และการดำเนินงานระดับองค์กร แทนที่จะเป็นแคช KV และบริบทการอนุมานที่มีความสำคัญต่อเวลาแฝงและชั่วคราว
เราเชื่อว่าอาร์เรย์ระดับองค์กรระดับไฮเอนด์ เช่น VSP One Block High End จะใช้เครื่องมือ AI เช่น เอเจนต์อัจฉริยะภายใน เพื่อปรับปรุงการจัดการ เนื่องจาก AI แบบเอเจนต์และการอนุมานกระแสหลักได้รับความสนใจ องค์กรต่างๆ จึงต้องการเข้าถึงข้อมูลบันทึกหลักสำหรับปริมาณงาน AI ในที่สุด ท่อข้อมูล AI จะขยายเพื่อรวมอาร์เรย์องค์กรระดับไฮเอนด์เป็นแหล่งข้อมูลสำคัญ
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
มุ่งเน้นธุรกิจ:
การจัดจำหน่ายผลิตภัณฑ์ ICT/บูรณาการระบบและบริการ/โซลูชั่นโครงสร้างพื้นฐาน
ด้วยประสบการณ์การจัดจำหน่ายด้านไอทีมากกว่า 20 ปี เราร่วมมือกับแบรนด์ชั้นนำระดับโลกเพื่อนำเสนอผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
“ใช้เทคโนโลยีเพื่อสร้างโลกอัจฉริยะ” ผู้ให้บริการผลิตภัณฑ์ ICT ที่เชื่อถือได้ของคุณ!
ข้อความของคุณจะต้องอยู่ระหว่าง 20-3,000 ตัวอักษร!
Thai
