ASUS ExpertCenter Pro ET900N G3 เป็นสถานี GB300 DGX แห่งที่สองที่เราทดสอบและเป็นสถานีแรกที่เราประเมินการใช้งานจริงในห้องปฏิบัติการของเรา การทดสอบ MSI XpertStation WS300 ของเราดำเนินการจากระยะไกล ใช้ซิลิคอน NVIDIA แบบเดียวกับที่เห็นใน MSI XpertStation WS300: Grace Blackwell Ultra Desktop Superchip พร้อม 72 Grace cores, B300 GPU, 252GB ของ HBM3e, 496GB ของ LPDDR5X และ ConnectX-8 SuperNIC ที่มาพร้อมกับพอร์ต 400GbE คู่ ASUS บรรจุแพลตฟอร์มหลักแบบตายตัวนี้ไว้ในทาวเวอร์ AI ด้านข้างโต๊ะขนาดกะทัดรัด โดยเพิ่มคุณสมบัติที่ไม่มีใน WS300: ที่จับสำหรับพกพาสองตัวที่ติดตั้งด้านบน พัดลมเฉพาะสำหรับโครงเลนส์ ConnectX-8 และแหล่งจ่ายไฟ 1,600W 80 PLUS Titanium

ASUS ส่ง ET900N G3 ไปที่ห้องปฏิบัติการของเราเป็นเวลาประมาณหนึ่งสัปดาห์ในการเปรียบเทียบ การสร้างภาพ และการตรวจสอบทางกายภาพ โดยกำหนดค่าไว้ล่วงหน้าด้วย RTX PRO 2000 รายละเอียดที่ครอบคลุมแพลตฟอร์มฐาน B300, Grace, NVLink-C2C, MIG และ DGX Station พื้นฐานครอบคลุมอยู่ในการตรวจสอบ MSI XpertStation WS300 ก่อนหน้านี้ของเรา การวิเคราะห์นี้มุ่งเน้นไปที่การใช้งานของ ASUS เกี่ยวกับ Superchip และประสิทธิภาพของมันตรงกับทาวเวอร์ GB300 แรกที่เราทดสอบหรือไม่

ข้อมูลจำเพาะของ ASUS ExpertCenter Pro ET900N G3

ออกแบบและสร้าง

ASUS วางตำแหน่ง ET900N G3 ให้เป็นเวิร์คสเตชั่นทางธุรกิจที่มีตัวเครื่องสีเงินปัดเงา แผงด้านหน้าแบบตาข่ายสีเข้ม ขอบโครเมียมที่ฝาครอบและขาตั้ง พร้อมด้วยตราด้านหน้า ASUS แบบ low-profile ขนาดถูกกำหนดโดยแพลตฟอร์มภายใน: 584 x 232 x 565 มม. ซึ่งสูงกว่าและแคบกว่า WS300 เล็กน้อย ด้วยน้ำหนัก 27 กก. ไม่สามารถเคลื่อนย้ายได้อย่างง่ายดาย ซึ่งเป็นแรงบันดาลใจให้กับทางเลือกการออกแบบที่เป็นประโยชน์ของ ASUS: ที่จับโลหะด้านบน 2 อัน (ด้านหน้าและด้านหลัง) ช่วยให้คนสองคนยกทาวเวอร์ขึ้นบนโต๊ะหรือรถเข็นได้โดยไม่ต้องจับแผงแชสซี ที่จับเหล่านี้ดูไม่อยู่ในตำแหน่งบนเวิร์กสเตชันในสำนักงานจนกว่าคุณจะขนย้ายทาวเวอร์ GB300 หนักๆ ข้ามห้องปฏิบัติการ

แผงด้านหน้ามีปุ่มเปิด/ปิด, พอร์ต USB Type-A ความเร็ว 10Gbps สองพอร์ต, พอร์ต USB Type-C ความเร็ว 10Gbps สองพอร์ต, พอร์ต USB 2.0 หนึ่งพอร์ต และแจ็คเสียงแยกต่างหากที่จัดเรียงในแนวตั้งที่ตาข่ายด้านขวาบน แผงด้านข้างเป็นแผ่นระบายอากาศขนาดใหญ่ โดยส่วนหน้ามีรูพรุนยาวสำหรับไอดีหม้อน้ำ และกระจังหลังขนาดเล็กจัดอยู่ในแนวเดียวกับพัดลมระบบ ไม่มีหน้าต่างหรือแสง RGB ซึ่งตรงกับความต้องการของผู้ซื้อเป้าหมาย

ที่ด้านหลัง เค้าโครงจะแยก I/O เวิร์กสเตชันออกจากฮาร์ดแวร์เซิร์ฟเวอร์พื้นฐาน คลัสเตอร์ด้านบนประกอบด้วยพอร์ต USB Type-A ความเร็ว 10Gbps สี่พอร์ต, พอร์ต 10GbE และ 1GbE RJ45, แจ็คเสียงสามช่อง, คอนโซล BMC Micro-USB และ BMC Mini DisplayPort สำหรับการตั้งค่า QSFP112 Cage สองตัวสำหรับ ConnectX-8 วางอยู่บนแผงป้องกัน I/O ถัดจากพัดลมดูดอากาศ ฝาปิดช่องขยายสามช่องทอดยาวลงมาตรงกลาง และแหล่งจ่ายไฟขาเข้า C19 อยู่ที่ด้านล่าง เช่นเดียวกับ WS300 Mini DisplayPort เป็นแบบ BMC เท่านั้นสำหรับการตั้งค่าเริ่มต้นและการแก้ไขปัญหา เอาต์พุตการแสดงผลบนเดสก์ท็อปต้องใช้การ์ดเสริม RTX PRO

ภายใน ET900N G3

เมื่อถอดแผงด้านข้างออก ET900N G3 จะมีลักษณะคล้ายกับ WS300 อย่างใกล้ชิด ตามที่คาดไว้ เนื่องจากทั้งสองใช้แผงข้าง NVIDIA เดียวกัน GB300 Superchip ตั้งอยู่ใต้แผ่นระบายความร้อนทองแดงบนแชสซีด้านซ้าย โมดูล SOCAMM มีแผ่นทองแดงโดยเฉพาะอยู่ข้างๆ และ ConnectX-8 ได้รับการระบายความร้อนด้วยแผ่นเย็นแผ่นที่สามใกล้กับ I/O ด้านหลัง ท่อน้ำหล่อเย็นแบบถักวิ่งจากแผ่นเย็นไปยังท่อร่วมคานขวางของแชสซี จากนั้นต่อไปยังหม้อน้ำ ช่อง PCIe เต็มความยาว 3 ช่องอยู่ใต้ Superchip ส่วนจ่ายไฟอยู่ที่มุมด้านหน้าด้านล่าง และแผงโลหะปิดเส้นทางสายเคเบิลด้านล่าง

รูปแบบการไหลเวียนของอากาศภายในคล้ายกับ WS300: หม้อน้ำแนวตั้งหนึ่งตัวอยู่ด้านหลังตาข่ายด้านหน้า หม้อน้ำตัวที่สองติดตั้งอยู่ด้านบน โดยแต่ละตัวติดตั้งแผงพัดลม พร้อมด้วยพัดลมแชสซีด้านหลัง ท่อน้ำหล่อเย็นได้รับการหุ้มและยึดให้แน่นด้วยสายรัดแบบตีนตุ๊กแก และท่อร่วมจะรวมท่อจากแผ่นทำความเย็นสี่แผ่นเข้าด้วยกัน จึงมีท่อเพียงสองท่อเท่านั้นที่ป้อนหม้อน้ำแต่ละตัว

พัดลมเลนส์

องค์ประกอบการระบายความร้อนอย่างหนึ่งที่เป็นเอกลักษณ์ของ ET900N G3 คือพัดลมยึดขนาดเล็กเหนือแผ่นทำความเย็น ConnectX-8 ซึ่งเล็งไปที่โครง QSFP112 โดยตรง ลูปของเหลวจะทำให้ซิลิคอน SuperNIC เย็นลง แต่ตัวรับส่งสัญญาณแบบออปติคอล 400G สร้างความร้อนจำนวนมากภายในกรงโลหะ ซึ่งรับเฉพาะการระบายความร้อนที่เป็นสื่อกระแสไฟฟ้าจากแผ่นเย็นเท่านั้น การทดสอบก่อนหน้าของเราระบุว่า ConnectX-8 ทำงานอุ่นภายใต้ภาระที่ต่อเนื่อง และโมดูลออปติคัลอาจร้อนได้ ดังนั้นการไหลเวียนของอากาศโดยเฉพาะเหนือกรงจึงเป็นคุณสมบัติการออกแบบที่มีคุณค่าสำหรับผู้ใช้ที่ใช้การเชื่อมต่อไฟเบอร์อย่างต่อเนื่อง เมื่อใช้สายเคเบิล DAC การตั้งค่าของเราสำหรับการทดสอบการอนุมานแบบคลัสเตอร์ที่กำลังดำเนินอยู่ซึ่งเชื่อมโยงยูนิตนี้กับสเตชั่น GB300 ตัวที่สอง พัดลมนี้จะเห็นปริมาณงานที่เบากว่า

การจัดเก็บ การขยาย และพลังงาน

ASUS จัดส่ง ET900N G3 พร้อมไดรฟ์ NVMe ขนาด 2TB หนึ่งตัวสำหรับระบบปฏิบัติการและซอฟต์แวร์ NVIDIA บนคู่สล็อต PCIe 5.0 x4 M.2 2280 ที่เชื่อมต่อผ่าน Grace สล็อต M.2 คู่ที่สองแตะเข้ากับสวิตช์ PCIe ในตัวของ ConnectX-8 และว่างเปล่าจากโรงงาน

หน่วยตรวจสอบของเรามาพร้อมกับ NVIDIA RTX PRO 2000 Blackwell ที่ติดตั้งในสล็อต PCIe 5.0 x16 ซึ่งเป็นหนึ่งในการกำหนดค่าที่ ASUS รองรับ การ์ดใบนี้จ่ายเอาต์พุตการแสดงผลโดยไม่ต้องดึงพลังงานจากงบประมาณ GB300 มากนัก ASUS ระบุว่าแชสซีรองรับการ์ด RTX PRO Blackwell เพียงการ์ดเดียวเท่านั้น เราได้นำ RTX PRO 2000 ออกก่อนการเปรียบเทียบเพื่อสงวนงบประมาณด้านพลังงานการเร่งความเร็วทั้งหมดสำหรับ Superchip ซึ่งตรงกับเงื่อนไขการทดสอบ WS300 ของเรา เราไม่ได้ทดสอบการ์ด RTX PRO ที่มีกำลังสูงกว่าในแชสซีนี้ ผลกระทบที่มีต่อพื้นที่ส่วนหัวของกำลังไฟฟ้าที่ใช้ร่วมกันจะครอบคลุมในการทบทวนสถานี GB300 ในอนาคต

แหล่งจ่ายไฟ ATX 1,600W มีการรับรอง 80 PLUS Titanium ซึ่งเป็นการอัพเกรดที่เหนือกว่ายูนิต Platinum ของ WS300 ไทเทเนียมต้องการประสิทธิภาพ 94% ที่โหลด 50% บนอินพุต 115V เทียบกับ Platinum 92% และบังคับใช้อัตราประสิทธิภาพขั้นต่ำที่โหลด 10% ดังนั้น ET900N G3 จึงสิ้นเปลืองวัตต์ผนังน้อยลงภายใต้โหลดเต็ม GB300 กำลังไฟฟ้ายังคงใช้ร่วมกัน: Grace, B300, ปั๊ม, พัดลม, อุปกรณ์จัดเก็บข้อมูล และจั่วการ์ด RTX PRO ใดๆ จากพูล 1,600W เดียวกัน บริการ vsloshd ของ NVIDIA จะเปลี่ยนเฮดรูมที่มีอยู่ระหว่าง Superchip และ GPU เพิ่มเติมแบบไดนามิก โดยอิงตามการดึงพลังงาน โดยไม่มีฮาร์ดแคปแบบตายตัวสำหรับส่วนประกอบทั้งสอง กรอบการทำงานด้านพลังงานนี้ไม่เปลี่ยนแปลงจากการทบทวน WS300 การใช้งานในอเมริกาเหนือต้องใช้วงจรไฟฟ้า 20A โดยเฉพาะ

การเชื่อมต่อ

พอร์ต QSFP112 คู่ของ ConnectX-8 ทำหน้าที่เป็นแฟบริคหลักของ ET900N G3 ไปยังที่เก็บข้อมูล, DGX Station ที่สอง หรือเครือข่ายคลัสเตอร์ ในห้องปฏิบัติการของเรา พอร์ตเหล่านี้เชื่อมต่อผ่าน 400G DAC ไปยังสถานี GB300 อื่นเพื่อการวิเคราะห์การอนุมานแบบคลัสเตอร์ที่กำลังจะเกิดขึ้นแบบแยกกัน พอร์ต Marvell 10GbE จัดการการรับส่งข้อมูลโฮสต์ปกติ ในขณะที่พอร์ต Realtek 1GbE สงวนไว้สำหรับการจัดการ BMC โดยเฉพาะ

บันทึกการทดสอบ

ผลลัพธ์ทั้งหมดใช้การกำหนดค่าหน่วยความจำสต็อกของตัวอย่างห้องปฏิบัติการ: 252GB HBM3e บวก 496GB LPDDR5X การทดสอบดำเนินไปโดยไม่ได้ติดตั้งการ์ด RTX PRO ทำให้ได้งบประมาณพลังงานตัวเร่งเต็ม GB300 Superchip และเงื่อนไขการทดสอบ WS300 ที่ตรงกัน ชุดซอฟต์แวร์ การกำหนดค่า vLLM โปรไฟล์ปริมาณงาน และการกวาดล้างการทำงานพร้อมกันนั้นเหมือนกัน ทำให้สามารถเปรียบเทียบทาวเวอร์แบบเคียงข้างกันได้โดยตรง การทบทวนนี้เน้นที่ประสิทธิภาพการอนุมานเพียงอย่างเดียว เราไม่ได้วัดการดึงพลังงานหรือการวัดและส่งข้อมูลความร้อนทางไกลในอุปกรณ์นี้

เราใช้โปรไฟล์การอนุมานสด vLLM มาตรฐานสองโปรไฟล์ที่ใช้กับฮาร์ดแวร์ AI ภายในเครื่องทั้งหมด ได้แก่ เวิร์กโหลดที่สมดุลด้วยโทเค็นอินพุต 512 / 512 เอาท์พุต และเวิร์กโหลดหนักที่กรอกข้อมูลล่วงหน้าด้วยโทเค็นอินพุต 8,192 / 1,024 โทเค็นเอาต์พุต พร้อมกันแบบกวาดตั้งแต่ 1 ถึง 128 สตรีม สำหรับโมเดลระดับแนวหน้า เราจะเปรียบเทียบกับเซิร์ฟเวอร์ GPU ที่มีการ์ด RTX PRO 6000 สองหรือสี่ใบ ซึ่งเป็นทางเลือกแบบกล่องเดียวที่ใกล้เคียงที่สุดสำหรับจุดตรวจสอบโมเดลเหล่านี้ สำหรับรุ่นที่เล็กกว่า เราจะเปรียบเทียบกับ RTX PRO 6000 ตัวเดียวในเซิร์ฟเวอร์เดียวกัน, H200 NVL ตัวเดียวในเซิร์ฟเวอร์องค์กรอื่น และระบบ GB10 DGX Spark ที่เหมือนกับระบบที่ใช้ในการตรวจสอบ WS300 ตัววัด ET900N G3 เป็นค่าบันทึกดิบ ตัวเลขเปรียบเทียบมาจากแผนภูมิผลลัพธ์ที่เราเก็บถาวร

ประสิทธิภาพการอนุมาน

โมเดล Frontier บนพูลหน่วยความจำที่สอดคล้องกัน

GB300 ถูกสร้างขึ้นเพื่อรองรับโมเดลที่มีความจุเกินขีดจำกัด HBM3e ขนาด 252GB ของ B300 เราได้ทดสอบจุดตรวจสอบสี่จุดซึ่งครอบคลุมขอบเขตนี้: DeepSeek V4 Flash และ MiniMax M2.7 พอดีกับ HBM ด้วยความจุที่เหลือ; MiniMax M3 แทบจะไม่พอดีและถ่ายชุดย่อยของเลเยอร์ผู้เชี่ยวชาญไปยังหน่วยความจำ Grace; GLM-5.2 ถ่ายน้ำหนักได้ประมาณครึ่งหนึ่ง แต่ละแผนภูมิจะเปรียบเทียบผลลัพธ์กับตัวเลือกกล่องเดียวที่ใกล้ที่สุด: การ์ด RTX PRO 6000 ภายในเซิร์ฟเวอร์องค์กร ซึ่งจะทำให้ผู้เชี่ยวชาญสามารถโฮสต์หน่วยความจำได้เมื่อจำเป็น

DeepSeek V4 Flash เป็นการทดสอบที่ตรงไปตรงมา: จุดตรวจสอบ FP8 ดั้งเดิม ~20GB ที่ B300 จัดการได้อย่างง่ายดาย ปริมาณงานเอาต์พุตเวิร์กโหลดที่สมดุลเพิ่มขึ้นจาก 152 โทเค็น/วินาทีที่ 1 สตรีม เป็น 1,766 โทเค็น/วินาทีที่ 32 สตรีม ปริมาณงานโทเค็นทั้งหมดอยู่ที่ 3,532 สำหรับโปรไฟล์ที่กรอกข้อมูลล่วงหน้าจำนวนมาก ET900N G3 ปรับขนาดจาก 148 เป็น 954 โทเค็นเอาท์พุต/วินาที ทรูพุตรวมอยู่ที่ 8,587 การตั้งค่า RTX PRO 6000 แบบคู่มีจุดสูงสุดเกือบ 800 โทเค็นเอาท์พุต/วินาทีบนเวิร์กโหลดที่สมดุล และ ~490 บนพรอมต์แบบยาว โดยมีประสิทธิภาพไม่สม่ำเสมอที่การทำงานพร้อมกันต่ำ

MiniMax M2.7 ในรูปแบบ NVFP4 มีพื้นที่ ~125GB HBM และมอบขนาดที่แข็งแกร่งที่สุดในสี่รุ่น เอาต์พุตเวิร์กโหลดที่สมดุลเพิ่มขึ้นจาก 214 โทเค็น/วินาทีในหนึ่งสตรีมเป็น 4,793 ที่ 128 สตรีม ทรูพุตรวมเป็น 9,586 การทดสอบที่บรรจุล่วงหน้าจำนวนมากปรับขนาดเป็น 1,744 โทเค็นเอาท์พุต/วินาที และโทเค็นทั้งหมด 15,700 โทเค็น/วินาที ที่ 64 สตรีม การ์ด RTX PRO 6000 สองใบมีเส้นโค้งทั่วไปเหมือนกัน แต่มีทรูพุตน้อยกว่าครึ่งหนึ่ง โดยมีโทเค็นเอาต์พุตเกือบ 1,930 โทเค็น/วินาทีสำหรับปริมาณงานที่สมดุล และ ~510 สำหรับการแจ้งเตือนที่ยาว

MiniMax M3 แสดงให้เห็นการทำงานที่ขีดจำกัดหน่วยความจำ จุดตรวจสอบ NVFP4 มีขนาดเล็กกว่า 252GB แต่สถานะรันไทม์และแคช KV ใช้พื้นที่เพิ่มเติม ดังนั้นเลเยอร์ผู้เชี่ยวชาญบางส่วนจึงอยู่ในหน่วยความจำ Grace ทุกขั้นตอนการถอดรหัสที่เข้าถึงผู้เชี่ยวชาญเหล่านั้นจะต้องข้าม NVLink-C2C ด้วยการถอดรหัสแบบเก็งกำไร EAGLE3 ทำให้ ET900N G3 ได้รับโทเค็นเอาต์พุต 1,041 โทเค็น/วินาทีที่ 32 สตรีมสำหรับปริมาณงานที่สมดุล โปรไฟล์ที่กรอกข้อมูลล่วงหน้าจำนวนมากนั้นสูงสุดที่ 282 โทเค็น/วินาทีที่สองสตรีม โดยอยู่ที่ 271 ที่สี่สตรีม จากนั้นลดลงเหลือ 103 ที่แปดสตรีมเมื่อแคชที่พร้อมใช้งานหมดลงเป็นเวลานาน การ์ด RTX PRO 6000 สี่ใบที่ใช้ตัวถอดรหัสเก็งกำไรตัวเดียวกันสามารถก้าวผ่านแปดสตรีม ดึงไปข้างหน้าที่ 16 สตรีมเป็น ~ 1,180 โทเค็นเอาท์พุต/วินาที จากนั้นลดลงเหลือประมาณ 760 ที่ 32 สตรีม สำหรับปริมาณงานที่มีการกรอกข้อมูลล่วงหน้าจำนวนมาก ระบบ GPU สี่ตัวจะรักษาโทเค็นเอาต์พุต ~349 โทเค็น/วินาทีที่สี่สตรีม เทียบกับ 271 สำหรับสถานี DGX โมเดลนี้มีความจุ HBM พอดีเป็นกรณีเดียวในชุดนี้ที่ VRAM รวม 384GB จากการ์ดสี่ใบแข่งขันกับ HBM 252GB บวกออฟโหลด Grace

GLM-5.2 แสดงถึงปริมาณงานเฉพาะที่พูลหน่วยความจำที่สอดคล้องกันเท่านั้นที่เปิดใช้งาน เมื่อใช้การถอดรหัสแบบเก็งกำไร MTP จุดตรวจสอบ NVFP4 จะเก็บน้ำหนักผู้เชี่ยวชาญประมาณ 215GB ไว้ในหน่วยความจำ Grace ET900N G3 ส่งโทเค็นเอาท์พุต 35 รายการ/วินาทีสำหรับหนึ่งสตรีม และ 139 รายการสำหรับ 32 สตรีมภายใต้เวิร์กโหลดที่สมดุล ปริมาณงานรวมอยู่ที่ 277 สำหรับการทดสอบที่กรอกข้อมูลล่วงหน้าหนักมากถึง 32 สตรีม จะได้รับโทเค็นเอาท์พุต 120 รายการ/วินาที และโทเค็นทั้งหมด 1,079 รายการ/วินาที การ์ด RTX PRO 6000 สี่ใบ แต่ละใบถ่ายโอน ~30GB ไปยังหน่วยความจำโฮสต์ จัดการโทเค็นเอาต์พุต ~40 รายการ/วินาทีที่ 32 สตรีม และลดเหลือประมาณ 9–10 โทเค็น/วินาทีจากสี่สตรีมเป็นต้นไปสำหรับการแจ้งเตือนที่ยาว ไม่มีระบบใดที่ทำให้รุ่น 433GB นี้รู้สึกเร็ว แต่การเชื่อมต่อ NVLink-C2C 396GB/s LPDDR5X และ 900GB/s ของ GB300 ไปยังผู้เชี่ยวชาญที่โอเวอร์โหลดยังคงรักษาการปรับขนาดโดยที่หน่วยความจำโฮสต์ที่ต่อกับ PCIe บน GPU สี่ตัว

เมื่อเปรียบเทียบกับ MSI WS300 ผลลัพธ์ของโมเดลชายแดน ET900N G3 อยู่ที่ประมาณ 1% ที่จุดทดสอบที่ตรงกันทั้งหมด: 1,766 โทเค็นเอาท์พุต/วินาทีสำหรับ DeepSeek V4 Flash ที่ 32 สตรีมบนทั้งสองทาวเวอร์ 4,793 ต่อ 4,801 สำหรับ MiniMax M2.7 ที่ 128 สตรีม; 1,041 สำหรับ MiniMax M3 ที่ 32 สตรีมทั้งสอง; และ 139 สำหรับ GLM-5.2 ที่ 32 สตรีมทั้งสองรายการ

รุ่นที่ใช้ร่วมกันกับ RTX PRO 6000, H200 NVL และ DGX Spark

กลุ่มการวัดประสิทธิภาพกลุ่มที่สองใช้โมเดลขนาดเล็ก ระบบทดสอบทั้งหมดสามารถรองรับหน่วยความจำได้อย่างสมบูรณ์: GPT-OSS-20B และ 120B Native MXFP4; ลามะ 3.1 8B BF16 และ FP8; มิสทรัล ขนาดเล็ก 24B BF16 และ FP8; เครื่องเข้ารหัส Qwen3 30B BF16 และ FP8 สิ่งใหม่เมื่อเทียบกับรีวิว WS300 คือ H200 NVL ตัวเดียว ซึ่งเป็นตัวเร่งความเร็วแบบ Hopper ขนาด 141GB ของ NVIDIA โดยเพิ่ม GPU สำหรับศูนย์ข้อมูลรุ่นก่อนหน้าเข้ากับชุดการเปรียบเทียบ

GPT-OSS-20B เป็นปริมาณงานที่ง่ายที่สุด ซึ่งโหลดได้อย่างสะดวกสบายสำหรับตัวเลือกฮาร์ดแวร์ทุกตัว ภายใต้เวิร์กโหลดที่สมดุล ET900N G3 ปรับขนาดเป็น 22,041 โทเค็นเอาต์พุต/วินาทีที่ 128 สตรีม (ทั้งหมด 44,082 สตรีม) เทียบกับ ~7,920 สำหรับ RTX PRO 6000, 6,010 สำหรับ H200 NVL และ 1,420 สำหรับ DGX Spark ประสิทธิภาพการสตรีมเดี่ยวสูงถึง 536 โทเค็นเอาต์พุต/วินาทีสำหรับ Station เทียบกับ 354 บน RTX PRO 6000, 489 บน H200 NVL และ 120 บน Spark การรันที่กรอกข้อมูลล่วงหน้าจำนวนมากทำให้ช่องว่างกว้างขึ้น: โทเค็นเอาต์พุต 9,555 รายการ/วินาที และโทเค็นทั้งหมด 85,994 รายการ/วินาทีที่ 128 สตรีมสำหรับ ET900N G3 เทียบกับ ~2,480 สำหรับ RTX PRO 6000, 3,410 สำหรับ H200 NVL และ 445 สำหรับ Spark

GPT-OSS-120B เปิดเผยข้อจำกัดของหน่วยความจำในฮาร์ดแวร์ของคู่แข่ง ET900N G3 มีโทเค็นเอาท์พุตสูงถึง 9,280 โทเค็น/วินาทีบนเวิร์กโหลดที่สมดุลที่ 128 สตรีม ประมาณสามเท่าของ RTX PRO 6000 ที่ 3,060, 2.8 เท่าของ H200 NVL ที่ 3,370 และมากกว่า 19 เท่าของ Spark 480 สำหรับการแจ้งเตือนที่ยาว ระบบขนาดเล็กจะทำให้ความจุแคช KV หมดเร็ว: RTX PRO 6000 ใกล้ถึงจุดสูงสุดแล้ว โทเค็นเอาท์พุต 1,170 โทเค็น/วินาที และ H200 NVL เกือบ 1,820 ในขณะที่สถานียังคงไต่ระดับต่อไปผ่าน 128 สตรีม และเสร็จสิ้นที่ 5,023 โทเค็นเอาท์พุต/วินาที โดยมีปริมาณงานรวม 45,205 โทเค็น/วินาที

Llama 3.1 8B FP8 ให้ปริมาณการประมวลผลเดี่ยวที่สูงที่สุดในชุดการทดสอบนี้ ET900N G3 พุชโทเค็นเอาต์พุต 25,602 รายการ/วินาทีใน 128 สตรีมบนเวิร์กโหลดที่สมดุล (ทั้งหมด 51,205 รายการ) เทียบกับ ~8,060 บน RTX PRO 6000 และ 11,040 บน H200 NVL การเปลี่ยนจาก BF16 เป็น FP8 ช่วยเพิ่มปริมาณงานของสถานีประมาณ 50% (17,074 ถึง 25,602) ในขณะที่ RTX PRO 6000 ได้รับ ~70% และ H200 NVL ~37% ผลลัพธ์ที่กรอกข้อมูลล่วงหน้าจำนวนมากถูกบีบอัดคะแนนทั้งหมด: สถานีมีโทเค็นเอาท์พุต 6,164 โทเค็น/วินาที, RTX PRO 6000 1,480, H200 2,040

Mistral Small 24B FP8 สร้างอัตราส่วนประสิทธิภาพสูงสุด ET900N G3 สูงสุดที่ 11,075 โทเค็นเอาท์พุต/วินาทีภายใต้เวิร์กโหลดที่สมดุล, 3.4x RTX PRO 6000's 3,240, 2.4x H200 NVL's 4,610 และเกือบ 20x Spark's 559 หากได้รับแจ้งเป็นเวลานาน RTX PRO 6000 สูงสุดที่ 32 สตรีมประมาณ 480 โทเค็น/วินาที ก่อนที่จะลดลง H200 NVL มียอดเกือบ 854 โทเค็น/วินาที ในขณะที่ Station สูงถึง 2,302 โทเค็น/วินาทีที่ 128 สตรีม

Qwen3 Coder 30B ซึ่งเป็นโมเดลที่ผู้เชี่ยวชาญผสมผสานกันซึ่งมีจำนวนพารามิเตอร์ที่ใช้งานต่ำ ช่วยลดช่องว่างของสตรีมเดี่ยวให้แคบลง ที่เวิร์คโหลดที่สมดุลของสตรีมเดียว RTX PRO 6000 ส่งมอบ ~232 โทเค็นเอาท์พุต/วินาที เทียบกับ 319 และ H200 NVL ของ 308 ของ Station การแบทช์คืนลำดับชั้นประสิทธิภาพ: ที่ 128 สตรีม FP8, ET900N G3 มีโทเค็นเอาท์พุต 12,439 อัน/วินาที, 3.1 เท่าของ GPU ที่ 3,990 และ 1.7 เท่า H200 NVL 7,450. การกรอกข้อมูลล่วงหน้าจำนวนมากมีโทเค็นเอาท์พุตถึง 3,837 โทเค็น/วินาทีสำหรับสถานี RTX PRO 6000 สูงสุดใกล้ 880 ที่ 64 สตรีม, H200 NVL ใกล้ 1,820

ในโมเดลที่ใช้ร่วมกันเหล่านี้ ET900N G3 ให้ทรูพุต 2.8–3.4 เท่าของ RTX PRO 6000 ตัวเดียวและ 1.7–3.7x H200 NVL ในการทำงานพร้อมกันเต็มรูปแบบ ความเป็นผู้นำจะขยายออกไปตามคำแนะนำที่ยาว เนื่องจากฮาร์ดแวร์ที่แข่งขันกันทำให้พื้นที่ว่างของแคช KV หมดไป เมื่อเทียบกับ WS300 ทั้งสี่รุ่นนี้นั่งภายใน 1% อีกครั้ง: 22,041 เทียบกับ 22,161 สำหรับ GPT-OSS-20B; 9,280 กับ 9,294 สำหรับ GPT-OSS-120B; 11,075 ต่อ 11,157 สำหรับ Mistral Small FP8; 12,439 ต่อ 12,425 สำหรับ Qwen3 Coder FP8 การเปรียบเทียบแบบเต็มของทั้ง 14 รุ่นจะปรากฏในส่วนถัดไป

สองทาวเวอร์หนึ่งกระดานข้างก้น: ASUS ET900N G3 กับ MSI WS300

ET900N G3 และ MSI XpertStation WS300 ใช้แผ่นฐาน NVIDIA GB300 DGX Station ที่เหมือนกันซึ่งบรรจุอยู่ในแชสซี OEM ที่แตกต่างกัน ทั้งสองรันโมเดลเดียวกัน 14 โมเดล สองโปรไฟล์เวิร์กโหลด และการกวาดล้างการทำงานพร้อมกันโดยใช้บิลด์ vLLM ที่ตรงกัน ตารางด้านล่างเปรียบเทียบอัตราการส่งข้อมูลเอาต์พุตสูงสุดของ ET900N G3 กับ WS300 ในทุกรุ่น

จากคู่แบบจำลอง-ปริมาณงานทั้งหมด 28 คู่ ผลลัพธ์ 24 รายการตกอยู่ภายใน 2% ของกันและกัน ซึ่งส่วนใหญ่แสดงความได้เปรียบเป็นเปอร์เซ็นต์แบบเศษส่วนสำหรับ WS300 สี่คนอยู่นอกแบนด์นี้ อีกสามคนอยู่บนปริมาณงานที่สมดุล: Llama 3.1 8B FP8 ที่ 3.5% ต่ำกว่า WS300 (25,602 เทียบกับ 26,536), Qwen3 Coder 30B BF16 ที่ต่ำกว่า 4.6% (10,000 เทียบกับ 10,486), Nemotron 3 Ultra 550B ที่ต่ำกว่า 5.2% (159 เทียบกับ 168) บวกกับ Qwen3 Coder 30B BF16 อีกครั้งที่ลดลง 2.1% เมื่อพร้อมท์แบบยาว จุดข้อมูลทั้งหมดเป็นการวัดครั้งเดียวสำหรับแต่ละทาวเวอร์ ดังนั้นความแปรปรวน 2–5% ในสามรุ่นจากทั้งหมด 14 รุ่นจึงไม่สามารถนำมาประกอบกับการออกแบบแชสซีได้ เราเพียงแค่บันทึกเดลต้าที่สังเกตได้ โมเดลที่ขึ้นอยู่กับการรวมกลุ่มหน่วยความจำที่สอดคล้องกัน MiniMax M3 และ GLM-5.2 จับคู่หรือเกินประสิทธิภาพของ WS300 บนเวิร์กโหลดทั้งสอง เป็นการยืนยันว่าเส้นทางออฟโหลดของ Grace ทำงานเหมือนกันในกล่องหุ้มของ ASUS และ MSI

GPT-OSS-20B ซึ่งเป็นโมเดลที่มีปริมาณการรับส่งข้อมูลสูงสุด และ GLM-5.2 ซึ่งเป็นเวิร์กโหลดที่เน้นออฟโหลด แสดงให้เห็นการทับซ้อนกันที่เกือบจะสมบูรณ์แบบ: ประสิทธิภาพของ WS300 ติดตาม ET900N G3 เกือบจะแบบจุดต่อจุด

เราจะดำเนินการตามกรอบมาตรฐานนี้ต่อไปเมื่อมีทาวเวอร์ GB300 เพิ่มเติมมาถึงห้องปฏิบัติการของเรา ZGX ของ HP อยู่ในกลุ่มผลิตภัณฑ์ถัดไป ตามมาด้วยรุ่น OEM อื่นๆ ทุกหน่วยดำเนินการกวาดล้างการทำงานพร้อมกันที่เหมือนกัน ดังนั้นความแตกต่างระหว่างการใช้งาน OEM จ