NVIDIA มองว่า CPU เป็นเพียงชิปเสริมสำหรับป้อนข้อมูลให้กับ GPU ในศูนย์ข้อมูลมาโดยตลอด CPU เซิร์ฟเวอร์ตัวแรกของบริษัทคือ Grace ก็เป็นไปตามรูปแบบนี้ โดยสร้างขึ้นจากคอร์ Arm Neoverse V2 ที่มีจำหน่ายทั่วไป และส่วนใหญ่ถูกนำไปใช้เป็นส่วนประกอบ CPU ของชิปซูเปอร์ชิป Grace Hopper และ Grace Blackwell ชิปซูเปอร์ชิปเหล่านี้ได้เปิดตัว NVLink-C2C ซึ่งเป็นอินเทอร์คอนเน็กต์แบบ Coherent ที่ให้แบนด์วิดท์การเข้าถึงหน่วยความจำข้ามระหว่าง CPU และ GPU สูงกว่า PCIe อย่างมาก
![]()
Vera ซึ่งเป็นรุ่นต่อจาก Grace มีความทะเยอทะยานมากกว่ามาก เป็นการออกแบบใหม่ทั้งหมดที่ขับเคลื่อนด้วย Olympus ซึ่งเป็นคอร์ Armv9.2 ที่ออกแบบเองของ NVIDIA แต่ละซ็อกเก็ต Vera มี 88 คอร์และ 176 เธรด ระบบหน่วยความจำที่โดดเด่นใช้โมดูล SOCAMM2 จำนวนแปดโมดูลของ LPDDR5X รองรับสูงสุด 1.5TB ต่อซ็อกเก็ต ด้วยแบนด์วิดท์สูงสุดที่ระบุไว้ที่ 1.2TB/s สิ่งนี้ทำให้ได้ประสิทธิภาพพลังงานของ DRAM สำหรับมือถือ ในขณะที่ยังคงรักษาหน่วยความจำที่สามารถเปลี่ยนได้ในภาคสนาม เซิร์ฟเวอร์ทดสอบแบบดูอัลซ็อกเก็ตของเราทำความเร็วได้ 2,073GB/s บน STREAM Triad เทียบกับคะแนนรวม 2.4TB/s
ขอบเขตการใช้งานของ Vera ได้ขยายออกไป ยังคงปรากฏในชิปซูเปอร์ชิป Vera Rubin และ NVIDIA ได้เพิ่มเข้าไปในแพลตฟอร์มจัดเก็บข้อมูล BlueField-4 STX และเซิร์ฟเวอร์ CPU แบบสแตนด์อโลนสำหรับสภาพแวดล้อม AI แบบ Agentic OEM รายใหญ่ ผู้ให้บริการคลาวด์ และ NCP รวมถึง Dell, HPE และ Supermicro กำลังเปิดตัวเซิร์ฟเวอร์ Vera ทำให้องค์กรมีผู้จำหน่าย CPU รายที่สามเพื่อกระจายห่วงโซ่อุปทาน
ประเด็นสำคัญ
- แบนด์วิดท์หน่วยความจำมีประสิทธิภาพเหนือกว่าเซิร์ฟเวอร์ x86 ที่ทดสอบทั้งหมดมากกว่าสองเท่า Vera แบบดูอัลซ็อกเก็ตให้ประสิทธิภาพมากกว่า 2TB/s บน STREAM Triad ซึ่งเร็วกว่าเซิร์ฟเวอร์ DDR5 ที่เร็วที่สุดที่วัดได้ถึง 2.3 เท่า แม้แต่การเข้าถึงหน่วยความจำระยะไกลผ่าน NVLink-C2C ก็ให้แบนด์วิดท์สูงกว่าหน่วยความจำภายในเครื่องบนซ็อกเก็ต x86 ใดๆ และความหน่วงของหน่วยความจำภายในเครื่องแบบ hugepage ก็ต่ำกว่า EPYC 9175F ถึง 13%
- โปรเซสเซอร์ระดับกลางที่สมดุล คอร์ Olympus ความเร็ว 3.4GHz เพียงคอร์เดียวให้ประสิทธิภาพการบีบอัด 7-Zip สูงกว่า EPYC 9175F ความเร็ว 5.0GHz ถึง 12% และชนะการทดสอบ Python แบบเธรดเดี่ยว 2 ใน 3 รายการ เมื่อโหลดเต็ม Vera ทำความเร็วได้ 63-72% ของประสิทธิภาพการบีบอัด 7-Zip ของ EPYC 9965 โดยใช้จำนวนคอร์น้อยกว่าครึ่ง
- เวกเตอร์และการเข้ารหัสเป็นจุดอ่อนหลัก ท่อ SVE2 ขนาด 128 บิต จำนวนหกท่อไม่สามารถเทียบได้กับโค้ดที่ปรับให้เหมาะสมกับ AVX-512 ขนาด 512 บิต ในการทดสอบแบบ 16 คอร์ที่เท่ากัน ผลการทดสอบ GROMACS benchMEM ของ Vera ได้ครึ่งหนึ่งของ EPYC 9175F และสองในสามของ EPYC 9965 คอร์ Vera หนึ่งคอร์ทำงานการเข้ารหัส AES-256-GCM ด้วยความเร็วประมาณหนึ่งในสามของ 9175F โดย EPYC 9965 แบบ 384 คอร์ นำหน้า Vera ประมาณ 3 เท่า ทั้งใน GROMACS benchPEP และ AES
- เวิร์กโหลด HPC ที่จำกัดด้วยหน่วยความจำได้รับประโยชน์อย่างมากจากแบนด์วิดท์สูง บนเมช OpenFOAM ขนาดใหญ่ Vera ทำงานเสร็จเร็วกว่า EPYC 9965 แบบ 384 คอร์ 1.44 เท่า และเร็วกว่า Xeon 6978P แบบ 240 คอร์ 1.20 เท่า บนเมชขนาดเล็ก แคช L3 x86 ที่ใหญ่ขึ้นทำให้ช่องว่างแคบลง โดย Vera อยู่ภายใน 12% ของ 9965
- ฐานข้อมูลและการวิเคราะห์มีการแข่งขันสูง ในการทดสอบ HammerDB TPROC-1 แบบซ็อกเก็ตเดียว 88 คอร์ Vera เอาชนะ EPYC 9965 แบบ 192 คอร์ได้ 26% บน PostgreSQL และ 8% บน MariaDB ในขณะที่ตามหลัง 19% บน MySQL และ 15% บน VillageSQL Xeon 6787P ล้าหลัง Vera ในทุกเอนจิ้นฐานข้อมูลห้าตัว Vera ยังทำงาน ClickBench hot queries ได้เร็วกว่า EPYC 9965 ถึง 23% และจัดการคำขอ Valkey ได้มากขึ้น 34% บนชุดข้อมูลทำงานขนาด 256GB
ข้อมูลจำเพาะ
| ข้อมูลจำเพาะ | NVIDIA Vera CPU |
|---|---|
| คอร์ | NVIDIA Olympus, Armv9.2 พร้อม SVE2 และ FP8 |
| คอร์ / เธรดต่อซ็อกเก็ต | 88 คอร์, 176 เธรด (NVIDIA Spatial Multithreading) |
| ความเร็วสัญญาณนาฬิกาที่วัดได้ | 3.41GHz |
| TDP ที่กำหนดค่าได้ | 250W–450W |
| การระบายความร้อน | อากาศหรือของเหลว |
| แคช |
L1-I: 64KB ต่อคอร์ L1-D: 96KB ต่อคอร์, 6-way L2: 2MB ส่วนตัวต่อคอร์ L3: 164MB ต่อซ็อกเก็ต, การแบ่งพาร์ติชัน Arm MPAM |
| เฟรม | Scalable Coherency Fabric รุ่นที่ 2, แบนด์วิดท์ bisection 3.4TB/s |
| หน่วยความจำ |
โมดูล SOCAMM2 LPDDR5X จำนวน 8 โมดูลต่อซ็อกเก็ต 8 ตัว ควบคุม 128 บิต (รวม 1024 บิต) สูงสุด 9,600MT/s 1.2TB/s ต่อซ็อกเก็ต ความจุ 256GB–1.5TB ต่อซ็อกเก็ต |
| I/O |
PCIe Gen6: 88 เลนต่อซ็อกเก็ต (แพลตฟอร์ม CPU เท่านั้น), รองรับการแบ่งพาร์ติชัน CXL 3.1 การจัดกลุ่มหน่วยความจำ Type 3 NVLink-C2C รุ่นที่ 2: ลิงก์ Coherent แบบสองทิศทาง 1.8TB/s พร้อมการเข้ารหัสที่รับรองความถูกต้อง |
| ความปลอดภัย | Confidential computing, Arm CCA realms, RME-DA / RME-CDA, TDISP, คีย์ต่อ VM |
เหตุผลที่ NVIDIA พัฒนา Vera
NVIDIA สร้างธุรกิจศูนย์ข้อมูลโดยมี GPU เป็นแกนหลัก จากนั้นจึงขยายไปสู่เครือข่ายผ่านการซื้อกิจการ Mellanox และซอฟต์แวร์ผ่าน CUDA และ DOCA บริษัทยังคงพึ่งพา CPU อเนกประสงค์ของบุคคลที่สามในการรันระบบปฏิบัติการ เตรียมข้อมูล และจัดการตัวเร่งความเร็ว Grace เป็นก้าวแรกในการยุติการพึ่งพานี้ แต่คอร์ Neoverse V2 ของบริษัทมีช่องว่างด้านประสิทธิภาพเมื่อเทียบกับ CPU x86 ระดับไฮเอนด์นอกเหนือจากการโฮสต์ AI
Vera ปิดช่องว่างส่วนใหญ่ด้วยคอร์ Olympus ที่ออกแบบเอง และแบนด์วิดท์หน่วยความจำและความจุที่ได้รับการอัปเกรด ด้วยการรวม CPU ที่แข่งขันได้เข้ากับ GPU, DPU และเครือข่าย NVIDIA จึงสามารถดึงดูดการใช้จ่ายในเซิร์ฟเวอร์ได้มากขึ้น และจัดแนวการออกแบบ CPU, หน่วยความจำ, อินเทอร์คอนเน็กต์ และ GPU ให้สอดคล้องกันอย่างใกล้ชิด CPU Vera แบบสแตนด์อโลนยังรองรับเวิร์กโหลด AI แบบ Agentic ซึ่งการเรียกใช้เครื่องมือ การดำเนินการโค้ด และการตัดสินใจตามลำดับต้องการประสิทธิภาพต่อคอร์ที่แข็งแกร่ง ความหน่วงต่ำ และปริมาณงานที่คาดการณ์ได้
คอร์ Olympus
Olympus ให้ความสำคัญกับการประมวลผลงานเดี่ยวที่รวดเร็วและปริมาณงานที่ต่อเนื่องภายใต้ภาระงานเต็มซ็อกเก็ต NVIDIA อ้างว่า IPC เพิ่มขึ้น 1.5 เท่าเมื่อเทียบกับ Neoverse V2 ของ Grace ตัวถอดรหัสคำสั่งแบบ 10-wide จับคู่กับตัวทำนายการแตกแขนงแบบนิวรัลที่รองรับการแตกแขนงที่ถูกเลือกสองครั้งต่อรอบเพื่อรักษาปริมาณคำสั่ง การดำเนินการนอกลำดับและการทำนายค่าช่วยแก้ไขโซ่การพึ่งพาที่จำกัดการปรับขนาดแบบหลายคอร์แบบง่าย
ทรัพยากรการดำเนินการประกอบด้วยหน่วยจำนวนเต็มที่หลากหลาย ท่อรับข้อมูลสี่ท่อ ท่อส่งข้อมูลสองท่อ และท่อเวกเตอร์ SVE2 ขนาด 128 บิต จำนวนหกท่อ โดยมีเพียงสองท่อจากหกท่อเท่านั้นที่จัดการการเข้ารหัส การออกแบบเวกเตอร์ขนาด 128 บิตที่แคบกว่าเป็นการแลกเปลี่ยนที่จงใจกับ AVX-512 ขนาด 512 บิตของ x86 แต่ละคอร์มีแคช I ส่วนตัว 64KB, แคช D 96KB และ L2 2MB พร้อมตัวทำนายกราฟที่ปรับให้เหมาะสมสำหรับเวิร์กโหลดที่เน้นตัวชี้แบบไม่สม่ำเสมอ Spatial Multithreading ช่วยให้คอร์จริงหนึ่งคอร์สามารถรันเธรดฮาร์ดแวร์สองเธรด โดยรักษาสมดุลระหว่างปริมาณงานและความหน่วงที่คาดการณ์ได้สำหรับเวิร์กโหลดแบบ Agentic
เฟรม หน่วยความจำ และ I/O
Scalable Coherency Fabric รุ่นที่ 2 ของ Vera รักษาความสอดคล้องของแคชทั่วทั้งชิปด้วยแบนด์วิดท์ bisection 3.4TB/s แต่ละซ็อกเก็ตจะปรากฏเป็นโหนด NUMA หนึ่งโหนด ทำให้การจัดวางหน่วยความจำภายในเครื่องง่ายขึ้น แคช L3 ขนาด 164MB ที่ใช้ร่วมกันสามารถแบ่งพาร์ติชันผ่าน Arm MPAM เพื่อแยก QoS ระหว่างผู้เช่า
ระบบ LPDDR5X ให้แบนด์วิดท์สูงพร้อมการใช้พลังงานที่พอเหมาะ ประมาณ 30-40W สำหรับชุดหน่วยความจำที่เต็มรูปแบบ ความจุสูงสุดที่ 1.5TB ต่อซ็อกเก็ต สามารถขยายได้ผ่านการจัดกลุ่มหน่วยความจำ CXL 3.1 Type 3 อินเทอร์คอนเน็กต์ NVLink-C2C รุ่นที่ 2 เชื่อมต่อซ็อกเก็ต Vera สองตัวหรือ Vera กับ GPU Rubin ด้วยแบนด์วิดท์ Coherent แบบสองทิศทาง 1.8TB/s
เซิร์ฟเวอร์อ้างอิง MGX Vera C2
หน่วยทดสอบของเราคือ NVIDIA MGX Vera C2 ซึ่งเป็นแพลตฟอร์มอ้างอิงแบบดูอัลซ็อกเก็ต ระบายความร้อนด้วยอากาศ ขนาด 2U สำหรับการออกแบบ OEM แผงด้านหน้ามีช่อง NVMe E1.S แปดช่อง และ PSU แบบ Delta ที่สลับได้สี่ช่อง แหล่งจ่ายไฟจะติดตั้งจากด้านหน้า ทำให้ด้านหลังมีช่องเสียบ PCIe และพอร์ตการจัดการ CPU Vera สองตัวถูกบัดกรีเข้ากับ PCB โดยตรงโดยไม่มีซ็อกเก็ต ล้อมรอบด้วยช่องเสียบ SOCAMM2 ที่เปลี่ยนได้ 16 ช่อง โมดูลพัดลมกลางหกตัวพร้อมแผ่นกั้นโฟมจัดการการไหลเวียนของอากาศเหนือฮีทซิงค์ CPU แบบพาสซีฟ
การออกแบบตัวเสียบ PCIe แบบโมดูลาร์ช่วยเพิ่มความยืดหยุ่น แต่เพิ่มเวลาในการให้บริการ การสลับอะแดปเตอร์ต้องถอดฝาครอบพัดลม แผ่นกั้นโฟม สายเคเบิล และชุดตัวเสียบทั้งหมด จากนั้นจึงถอดชุดประกอบออก การสลับการ์ดตามปกติใช้เวลา 5-10 นาที และมักจะดำเนินการบนโต๊ะทำงานมากกว่าในแร็ค รุ่นที่ระบายความร้อนด้วยของเหลวใช้แผ่นระบายความร้อนบน CPU ในขณะที่โมดูล SOCAMM2 ยังคงระบายความร้อนด้วยอากาศ
เกณฑ์มาตรฐานประสิทธิภาพ
Vera ถูกทดสอบกับเซิร์ฟเวอร์ Dell PowerEdge x86 ห้าเครื่องที่ใช้ CPU AMD EPYC และ Intel Xeon Vera ใช้ GCC 15 บน Ubuntu 26.04.1 ในขณะที่ระบบ x86 ใช้ toolchains รุ่นเก่าบน Ubuntu 24.04 ไบนารีของเกณฑ์มาตรฐานและชุดข้อมูลอินพุตมีความสอดคล้องกัน
หน่วยความจำ
Vera ทำความเร็วได้ 2,073GB/s STREAM Triad บนดูอัลซ็อกเก็ต ซึ่งเร็วกว่าผลลัพธ์ x86 ที่ดีที่สุดถึง 2.3 เท่า แบนด์วิดท์ต่อซ็อกเก็ตภายในเครื่องอยู่ที่ 1,055GB/s และการเข้าถึงระยะไกลผ่าน NVLink-C2C ทำความเร็วได้ 677GB/s ความหน่วงของหน่วยความจำภายในเครื่องแบบ hugepage อยู่ที่ 99.2ns ซึ่งเร็วกว่า EPYC 9175F ถึง 13% แม้ว่าความหน่วงระยะไกลจะเพิ่มขึ้นเป็น 212.7ns และ Vera จะไวต่อค่าใช้จ่ายในการแปลหน้า 4KB มากกว่า
HPC
GROMACS ชอบ AVX-512 ของ x86 ผลการทดสอบ benchPEP ของ Vera อยู่ที่ 1.77 ns/วัน (SMT ปิด) ปรับปรุงเป็น 2.07 ns/วัน ด้วย Spatial Multithreading EPYC 9965 แบบ 384 คอร์ ทำงานเสร็จเร็วกว่า 3 เท่า บนเมช OpenFOAM ขนาดใหญ่ที่จำกัดด้วยหน่วยความจำ Vera นำหน้าผู้ทดสอบทั้งหมดที่ 1,854 วินาที
การวิเคราะห์ & Valkey
Vera นำการทดสอบ ClickBench ทั้งแบบ hot และ cold ที่ 2.09 วินาที และ 5.70 วินาที Spatial Multithreading ส่งผลเสียต่อประสิทธิภาพการสแกน ClickHouse สำหรับ Valkey Vera ล้าหลังในการร้องขอแบบครั้งเดียวที่ไม่เป็นชุด แต่ก็แซงหน้าในเวิร์กโหลดแบบเป็นชุดด้วยชุดข้อมูลทำงานขนาด 256GB โดยให้ปริมาณงานสูงกว่า EPYC 9965 ถึง 34% ข้อได้เปรียบของมันปรากฏขึ้นเมื่อใช้ชาร์ด 8 คอร์ขึ้นไป แม้ว่า EPYC ที่มีจำนวนคอร์สูงกว่าจะใส่ชาร์ดได้มากกว่าต่อซ็อกเก็ต
เธรดเดี่ยว & การเข้ารหัส
Olympus นำการบีบอัด 7-Zip แบบเธรดเดี่ยวที่ 9,537 MIPS ประสิทธิภาพ AES ของมันอ่อนแอ: หนึ่งคอร์ทำความเร็วได้เพียง 6.2GB/s และระบบทั้งหมดทำความเร็วได้ 1.26TB/s ซึ่งประมาณหนึ่งในสามของ EPYC 9965 Vera ชนะการทดสอบ Python แบบเธรดเดี่ยว 2 ใน 3 รายการ โดยได้รับความช่วยเหลือบางส่วนจาก Python เวอร์ชันใหม่กว่า
ฐานข้อมูล
การทดสอบ HammerDB แบบซ็อกเก็ตเดียวแสดงให้เห็นว่า Vera นำหน้าในด้านปริมาณงาน PostgreSQL และ MariaDB ในขณะที่ EPYC 9965 เร็วกว่าใน MySQL และ VillageSQL ความหน่วงหาง p99 ของ Vera สูงกว่าในเอนจิ้นส่วนใหญ่ ยกเว้น MariaDB EPYC 9996 และ 9686F รุ่นใหม่กว่ามีการแลกเปลี่ยนข้อได้เปรียบกับ Vera ในเอนจิ้นฐานข้อมูลต่างๆ
สรุป
Vera ไม่ได้เร็วที่สุดในทุกด้าน ชิ้นส่วน EPYC ที่มีความถี่สูงครอบงำการเข้ารหัสแบบเธรดเดี่ยวและเวิร์กโหลดที่ไวต่อความหน่วง ในขณะที่ EPYC ที่มีจำนวนคอร์สูงนำในงาน HPC แบบเวกเตอร์และปริมาณงานทั้งหมด จุดแข็งของมันอยู่ที่พื้นที่เวิร์กโหลดระดับกลางที่กว้างขวาง: ประสิทธิภาพต่อคอร์แบบจำนวนเต็มที่แข่งขันได้ แบนด์วิดท์หน่วยความจำที่ยอดเยี่ยม และผลลัพธ์ที่แข็งแกร่งใน HPC ที่จำกัดด้วยหน่วยความจำ การวิเคราะห์ และฐานข้อมูลสมัยใหม่
แบนด์วิดท์หน่วยความจำระดับ 2TB/s ในเซิร์ฟเวอร์ดูอัลซ็อกเก็ตที่ระบายความร้อนด้วยอากาศคือจุดเด่นที่แตกต่างของ Vera NVLink-C2C รักษาแบนด์วิดท์ข้ามซ็อกเก็ตสูงไว้ได้ โดยแลกมาด้วยความหน่วงระยะไกลที่สูงขึ้น ดังนั้นการปรับแต่ง NUMA และ hugepages จึงยังคงมีความสำคัญ ข้อจำกัดหลักมาจากท่อเวกเตอร์ SVE2 ขนาด 128 บิต ซึ่งตามหลัง AVX-512 ในเคอร์เนลทางวิทยาศาสตร์และการเข้ารหัสที่ปรับให้เหมาะสม
![]()
ระบบนิเวศ OEM ที่กว้างขวางกำลังเปิดตัวเซิร์ฟเวอร์ Vera สำหรับการใช้งาน AI แบบ Agentic ฐานข้อมูล และการวิเคราะห์ Vera เป็น CPU เซิร์ฟเวอร์ Arm ตัวแรกที่เราได้ทดสอบซึ่งแข่งขันโดยตรงกับ CPU x86 ชั้นนำสำหรับเวิร์กโหลดระดับองค์กรทั่วไป แพลตฟอร์ม Venice EPYC ใหม่ของ AMD ได้เข้าสู่ห้องปฏิบัติการของเราแล้ว และการทดสอบแบบเคียงข้างกับ Vera บนเฟิร์มแวร์ที่อัปเดตยืนยันตำแหน่งที่แข่งขันได้
บริษัท ปักกิ่ง เฉียนซิง เจียทง เทคโนโลยี จำกัด
แซนดี้ หยาง / ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
จุดเน้นธุรกิจ:
การจัดจำหน่ายผลิตภัณฑ์ ICT / การรวมระบบและบริการ / โซลูชันโครงสร้างพื้นฐาน
ด้วยประสบการณ์ด้านการจัดจำหน่ายไอทีมากกว่า 20 ปี เราเป็นพันธมิตรกับแบรนด์ชั้นนำระดับโลกเพื่อส่งมอบผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
"ใช้เทคโนโลยีเพื่อสร้างโลกอัจฉริยะ" ผู้ให้บริการผลิตภัณฑ์ ICT ที่คุณไว้วางใจ!



