Dell Pro Precision 9 T4 เป็นทาวเวอร์ซ็อกเก็ตเดี่ยวระดับเรือธงในกลุ่มผลิตภัณฑ์ Pro Precision ของ Dell และหน่วยตรวจสอบนี้ได้รับการกำหนดค่าสำหรับ AI ในพื้นที่ในระดับที่เวิร์กสเตชันส่วนใหญ่ไม่สามารถเข้าถึงได้ โดยจับคู่ Intel Xeon 698X แบบ 86 คอร์ กับหน่วยความจำ DDR5-6400 ECC ขนาด 256GB การ์ด NVIDIA RTX PRO 6000 Blackwell Max-Q ความจุ 300W จำนวน 2 ใบ พร้อมด้วย GDDR7 ขนาด 96GB ต่อการ์ด Gen5 SSD ขนาด 2TB สองตัว และอะแดปเตอร์ 25GbE สองพอร์ต ซึ่งใช้แหล่งจ่ายไฟ 2400W
![]()
ประเด็นสำคัญ
- 1 GPU ตัวที่สองจะเปลี่ยนโมเดลที่ไม่พอดีกับการ์ดใบเดียวให้เป็นการ์ดที่ใช้งานได้ MiniMax M2.7 ที่ 129.3GB สร้าง 83.7 โทเค็น/วินาทีสำหรับผู้ใช้คนเดียวเมื่อแยกออกจากการ์ดทั้งสองตัว ซึ่ง 2.8× จาก 30.3 โทเค็น/วินาทีที่ได้รับจากการ์ดเดียวและส่วนที่เหลือของโมเดลในหน่วยความจำระบบ
- 2, GPU ตัวที่สองปรับขนาดการให้บริการ 1.85–2.02× และฝัง 1.92× เอาต์พุตสูงสุด llama.cpp เพิ่มขึ้นจาก 582.5 เป็น 1,176.1 โทเค็น/วินาทีบน Ministral 3 3B และจาก 424.8 เป็น 787.9 โทเค็น/วินาทีบน gpt-oss 120B ด้วยหนึ่งเซิร์ฟเวอร์ต่อ GPU ในขณะที่การฝังข้อความ Wikipedia หนึ่งล้านข้อความลดลงจาก 890 เป็น 464 วินาที
- 3, GPU ตัวที่สองลดยุค LoRA ลง 37%: หนึ่งยุคบน Ministral 3 8B ใช้เวลา 31.5 นาทีบน GPU หนึ่งตัวและ 19.7 นาทีในสองตัว สิ้นสุดด้วยการสูญเสียที่ค้างไว้ที่ 1.169 และ 1.167แบนด์วิธหน่วยความจำคือจุดที่ Xeon ก้าวไปข้างหน้า STREAM Triad มีความเร็วถึง 328GB/s ซึ่งสูงกว่า Threadripper PRO 9995WX ใน Precision 7875 ถึง 53% และ T4 เสร็จสิ้นการแก้ปัญหา OpenFOAM drivAer ใน 293 วินาทีเทียบกับ 556 และรัน y-cruncher 10 พันล้านหลักใน 53.9 วินาทีเทียบกับ 83.7
- 4,Precision 7875 เป็นผู้นำในงาน CPU ที่ผูกกับคอร์: Threadripper 96-คอร์ของมันวิ่งไปข้างหน้า 37% ใน 7-Zip และ 30% เหนือกว่าใน Blender Monster และเสร็จสิ้นการสร้าง LLVM ใน 43.7 วินาทีเทียบกับ 58.4
ตำแหน่งที่ T4 ตั้งอยู่
เดลล์ วางตำแหน่ง T4 ให้เป็นเวิร์กสเตชันทาวเวอร์ซ็อกเก็ตเดี่ยวเรือธงสำหรับองค์กรที่ต้องการความหนาแน่นในการประมวลผลสูงสุดและความสามารถในการขยาย โดยมีการพัฒนา AI การจำลองทางวิศวกรรม และการประมวลผลทางวิทยาศาสตร์ที่ด้านบนสุดของรายการเวิร์กโหลด ตั้งอยู่เหนือ Pro Precision 9 T2 ซึ่งใช้แพลตฟอร์มเวิร์กสเตชัน Xeon 6 เดียวกันในแชสซีขนาดเล็กกว่าพร้อม GPU ตัวเดียว T4 เพิ่มโปรเซสเซอร์แปดแชนเนลที่ด้านบนของกลุ่มผลิตภัณฑ์ สูงสุด 86 คอร์ และพื้นที่สำหรับการ์ดกราฟิกสูงสุดสี่การ์ด ขึ้นอยู่กับรุ่น
ตัวเลือกโปรเซสเซอร์เริ่มต้นที่ Xeon 634 แบบ 12-core และทำงานผ่าน Xeon 696X แบบ 64-core ไปจนถึง Xeon 698X แบบ 86-core ในหน่วยนี้ ซึ่งมีแคชขนาด 336MB, นาฬิกาพื้นฐาน 2.0GHz, สูงสุด 4.8GHz และระดับ 350W หน่วยความจำปรับขนาดเป็น DDR5 RDIMM ขนาด 4TB ใน 16 ช่อง และยูนิตนี้บรรจุแปดช่องด้วยโมดูลขนาด 32GB ที่ 6400MT/s กราฟิกเริ่มต้นที่ RTX A400 เดียว โดยจำนวนการ์ดจะเชื่อมโยงกับรุ่น: ตัวกำหนดค่าของ Dell แสดงรายการการ์ด RTX A1000 สี่ใบ, การ์ด RTX PRO 4000 Blackwell สามใบ, การ์ด 300W RTX PRO 6000 Max-Q สองใบ หรือการ์ด 600W RTX PRO 6000 หนึ่งใบ
รายการการกำหนดค่าพื้นฐานอยู่ที่ 5,925 ดอลลาร์ โครงสร้างนี้เพิ่ม 8,300 ดอลลาร์สำหรับ Xeon 698X, 15,000 ดอลลาร์สำหรับหน่วยความจำ 256GB และ 30,820 ดอลลาร์สำหรับการ์ด RTX PRO 6000 Max-Q คู่หนึ่ง ก่อนการจัดเก็บข้อมูล การสร้างเครือข่าย และการอัพเกรด ProSupport 36 เดือน Dell จะใช้ในระดับนี้โดยอัตโนมัติ
การสร้าง การออกแบบ และข้อมูลจำเพาะ
T4 เป็นทาวเวอร์แบบเต็มความสูง 449.8 มม. กว้าง 203.7 มม. และลึก 617.5 มม. โดยมีน้ำหนักขั้นต่ำ 24.1 กก. และสูงสุด 33.6 กก. ขึ้นอยู่กับการกำหนดค่า หน่วยนี้ใช้แหล่งจ่ายไฟระดับ Platinum 2400W ที่ผู้กำหนดค่าของ Dell เลือกสำหรับรุ่น RTX PRO 6000 คู่ โดยมีแหล่งจ่ายไฟ 1500W เป็นค่าเริ่มต้นในการกำหนดค่าที่เบากว่า
ความสามารถในการซ่อมบำรุงเป็นจุดแข็ง โดยเริ่มจากการเข้าไปโดยไม่ต้องใช้เครื่องมือผ่านสลักที่แผงด้านข้างและแหล่งจ่ายไฟ 2400W ที่เลื่อนออกจากด้านหลังด้านบนด้วยมือ อย่างอื่นทั้งหมด รวมถึงกราฟิกการ์ดและ SSD จะมาพร้อมกับไขควงปากแฉก และจุดสัมผัสสีน้ำเงินของ Dell จะเป็นเครื่องหมายของชิ้นส่วนที่ปลดออกด้วยมือ ห้องปฏิบัติการพบว่าแท่นนี้ซ่อมแซมได้ง่ายในภาคสนาม ซึ่งมีความสำคัญในราคานี้
การระบายความร้อนเป็นการดำเนินการที่ดีที่สุดที่เราเคยเห็นจาก Dell ในทาวเวอร์ระดับนี้ อากาศเคลื่อนจากหน้าไปหลัง และบังลมขนาดใหญ่ที่พอดีจะดันลมลงและพาดผ่านโปรเซสเซอร์และหน่วยความจำ ในขณะเดียวกันก็แยกช่องนั้นออกจากพื้นที่ PCIe สิ่งนี้ทำให้การ์ด 300W สองตัวมีกระแสลมอิสระ ดังนั้นจึงไม่ต้องดึงอากาศร้อนจาก Xeon 350W พัดลมสองตัวตั้งอยู่ระหว่างโซนโปรเซสเซอร์และช่องใส่การ์ด และส่วนประกอบพัดลมมีจุดสัมผัสสีน้ำเงินจุดเดียวกันและยกออกเพื่อเข้าถึงหน่วยความจำ
ส่วนขยายทำงานผ่านสล็อต PCIe ความสูงเต็มหกช่อง: Gen5 x16 สองช่องสำหรับรองรับ GPU, Gen5 x8 หนึ่งช่อง, Gen4 x8 หนึ่งช่อง และช่อง Gen4 สองช่องพร้อมขั้วต่อ x8 และสายไฟ x4 อุปกรณ์จัดเก็บข้อมูลครอบคลุมช่อง M.2 Gen5 ภายใน 3 ช่องและช่อง Gen4 1 ช่อง ช่องใส่ SATA ขนาด 3.5 นิ้วภายใน 2 ช่อง และ FlexBay ด้านหน้ารองรับไดรฟ์ NVMe สูงสุด 4 ตัวหรือไดรฟ์ 3.5 นิ้ว 2 ตัว ควบคู่ไปกับไดรฟ์ออปติคอลแบบบางที่เป็นอุปกรณ์เสริม อุปกรณ์นี้บู๊ตจากไดรฟ์ Gen5 ขนาด 2TB ภายในและมีไดรฟ์ Gen5 ขนาด 2TB ตัวที่สองในช่อง M.2 ภายในอีกช่อง
แผงด้านหน้ามีแจ็คหูฟัง, พอร์ต USB-A 10Gbps สองพอร์ต, พอร์ต USB-C 20Gbps พร้อม PowerShare, พอร์ต USB-C 10Gbps และช่องเสียบการ์ด SD ที่เป็นอุปกรณ์เสริม ด้านหลังเพิ่มพอร์ต 10GbE และ 1GbE RJ-45, พอร์ต USB-A 10Gbps สี่พอร์ต, พอร์ต USB-C 10Gbps สองพอร์ต, พอร์ต USB-C 20Gbps หนึ่งพอร์ต, อนุกรม, พอร์ต PS/2 สองพอร์ต และ line-out หน่วยนี้เพิ่มอะแดปเตอร์ Intel E810-XXV สองพอร์ต 25GbE SFP28, MediaTek Wi-Fi 7 MT7925 พร้อม Bluetooth 5.4, เครื่องอ่านมีเดียการ์ด และการ์ดเสริม USB-C คู่ของ Dell
การรักษาความปลอดภัยและการจัดการครอบคลุมถึง TPM 2.0, Dell SafeBIOS, การตรวจจับการบุกรุกของแชสซี, การสนับสนุนไดรฟ์ที่เข้ารหัสด้วยตนเอง, การลบข้อมูลอย่างปลอดภัยของ BIOS และ Intel vPro Enterprise Dell แสดงรายการ T4 ด้วยพลาสติกรีไซเคิลสูงถึง 85% ในส่วนประกอบหลัก อลูมิเนียมรีไซเคิล 90% ในด้ามจับ และเหล็กรีไซเคิล 11% ในแชสซี และการกำหนดค่าผ่านการรับรอง ENERGY STAR
| รายการ | ข้อมูลจำเพาะ |
|---|---|
| แบบอย่าง | Dell Pro แม่นยำ 9 T4 (PW9T4260) |
| โปรเซสเซอร์ (ตามที่ทดสอบแล้ว) |
Intel Xeon 698X, 86 คอร์ / 172 เธรด, แคช 336MB,ฐาน 2.0GHz สูงสุด 4.8GHz, 350W |
| ตัวเลือกโปรเซสเซอร์ | Xeon 634 (12 คอร์) ถึง Xeon 698X (86 คอร์) |
| หน่วยความจำ | 256GB (8× 32GB) DDR5-6400 RDIMM ECC; 16 ช่อง สูงสุด 4TB |
| กราฟิก | 2× NVIDIA RTX PRO 6000 Blackwell Max-Q, 96GB GDDR7 ต่ออัน, 300W ต่ออัน |
| ระบบปฏิบัติการ | Windows 11 Pro สำหรับเวิร์กสเตชัน (ทดสอบบน Ubuntu 26.04.1 LTS) |
| พื้นที่เก็บข้อมูลตามที่กำหนดค่าไว้ | 2× 2TB M.2 2280 Gen5 x4 TLC SED (ทั้งคู่ในช่อง M.2 ภายใน) |
| ช่องจัดเก็บข้อมูลภายใน | 3× M.2 2230/2280 Gen5 NVMe; 1× M.2 2230/2280 Gen4 NVMe; 2× 3.5 นิ้ว SATA |
| เฟล็กซ์เบย์ | ไดรฟ์ NVMe สูงสุด 4 ตัวพร้อมตัวเลือก ODD แบบบางหรือ SATA ขนาด 2 × 3.5 นิ้ว |
| สล็อต PCIe | 2× เจน5 x16; 1 × Gen5 x8; 1 × Gen4 x8; 2× Gen4 x8 (ไฟฟ้า x4) |
| เครือข่าย |
Intel E810-XXV สองพอร์ต 25GbE SFP28 (เพิ่มเติม); ออนบอร์ด 10GbE และ 1GbE RJ-45;MediaTek Wi-Fi 7 MT7925, บลูทูธ 5.4 |
| พอร์ตด้านหน้า |
1 × USB-C 20Gbps พร้อม PowerShare; 1 × USB-C 10Gbps; 2 × USB-A 10Gbps; แจ็คหูฟัง; ช่องเสียบการ์ด SD เสริม |
| พอร์ตด้านหลัง |
1 × USB-C 20Gbps; 2 × USB-C 10Gbps; 4 × USB-A 10Gbps; อนุกรม; 2× PS/2; เส้นออก |
| แหล่งจ่ายไฟ | แพลทินัม 2400W (ตัวเลือก 1500W) |
| ขนาด | 449.8 × 203.7 × 617.5 มม |
| น้ำหนัก | 24.1 กก. ถึง 33.6 กก. ตามการกำหนดค่า |
| การรักษาความปลอดภัยและการจัดการ |
TPM 2.0, Dell SafeBIOS, การตรวจจับการบุกรุกของแชสซี, รองรับไดรฟ์ที่เข้ารหัสด้วยตนเอง, การลบข้อมูลอย่างปลอดภัยของ BIOS, Intel vPro Enterprise |
| ความยั่งยืน |
พลาสติกรีไซเคิลสูงถึง 85% ในส่วนประกอบหลัก ด้ามจับอะลูมิเนียมรีไซเคิล 90% โครงทำจากเหล็กรีไซเคิล 11% ผ่านการรับรอง ENERGY STAR |
| การรับประกัน | ProSupport พร้อมบริการถึงสถานที่หลังการวินิจฉัยระยะไกล 36 เดือน |
| ราคา | ฐาน 5,925 ดอลลาร์; ประมาณ 66,600 ดอลลาร์ตามที่กำหนดไว้ |
การตั้งค่าการทดสอบและวิธีการ
ทั้งสี่ระบบใช้งาน Ubuntu 26.04.1 LTS บนเคอร์เนล 7.0.0-43 พร้อมไดรเวอร์ NVIDIA 595.99.02, CUDA 13, llama.cpp build b11716 และ Ollama 0.40.3 บนโปรไฟล์ประสิทธิภาพประสิทธิภาพของ Linux ผลลัพธ์มาจาก sr-client สำหรับ AI ในพื้นที่และปริมาณงานของไคลเอ็นต์ sr-harness สำหรับการคอมไพล์ การบีบอัด crypto การให้บริการเว็บและ y-cruncher และ sr-suite r5.28 สำหรับ GROMACS, OpenFOAM, ClickHouse, Valkey และแบนด์วิธหน่วยความจำ แต่ละร่างคือค่ามัธยฐานของการจ่ายบอลซ้ำ ระบบทั้งหมดทำงานโดยตั้งค่าโหมดระบายความร้อนของ BIOS ไว้ที่ Ultra Performance โดยมี T4 บน BIOS 1.2.0
ระบบเปรียบเทียบทุกระบบคือทาวเวอร์ของ Dell พร้อมกราฟิก RTX PRO 6000 Blackwell Precision 7875 จับคู่ Threadripper PRO 9995WX แบบ 96 คอร์กับการ์ด Max-Q สองใบเดียวกันและ DDR5-5600 ขนาด 512GB ทำให้มีความใกล้เคียงกันมากที่สุด Pro Precision 9 T2 ใช้ Xeon 658X แบบ 24 คอร์ พร้อมด้วยการ์ด Max-Q หนึ่งการ์ด และ Pro Max Tower T2 ใช้ Core Ultra 9 285K แบบ 24 คอร์ พร้อมด้วย RTX PRO 6000 600W ซึ่งแสดงให้เห็นว่าขีดจำกัดพลังงานที่สูงกว่าจะเพิ่มเท่าใดต่อ GPU
ประสิทธิภาพ AI ท้องถิ่น
ทุกระบบที่นี่มี RTX PRO 6000 Blackwell อย่างน้อยหนึ่งตัวพร้อม GDDR7 ขนาด 96GB ดังนั้นผลลัพธ์ของ GPU เดี่ยวจะวัดการ์ด ขีดจำกัดพลังงาน และความเร็วของแพลตฟอร์มที่ฟีดการ์ด การ์ดทั้งสองใบของ T4 คือสิ่งที่ทำให้มันแตกต่าง และการทดสอบ GPU สองตัวจะเรียกใช้แต่ละรุ่นสามวิธีตามความเหมาะสม: เซิร์ฟเวอร์อิสระสองตัว หนึ่งตัวต่อ GPU สำหรับปริมาณงาน; โมเดลหนึ่งแบ่งตามเลเยอร์ในการ์ดทั้งสองใบ และสำหรับ MiniMax M2.7 การ์ดหนึ่งใบที่มีรุ่นที่เหลืออยู่ในหน่วยความจำระบบ
ใน GPU ตัวเดียว T4 จะเข้าสู่จุดที่จำกัดไว้ที่ 300W โดยสร้างโทเค็น 166.9/วินาทีสำหรับผู้ใช้หนึ่งรายบน gpt-oss 120B และสูงสุดที่ 424.8 จากคำขอ 64 รายการพร้อมกัน ภายใน 1 ถึง 9% ของการ์ด Max-Q ที่เหมือนกันของ Precision 7875 ในทั้งสี่รุ่นและระดับเดียวกับ Pro Precision 9 T2 การ์ด 600W ใน Pro Max Tower T2 เร็วขึ้น 13 ถึง 25% ที่จุดสูงสุดในทุกรุ่น โดยสูงถึง 520.7 โทเค็น/วินาที บน gpt-oss 120B
การใช้งานหนึ่งเซิร์ฟเวอร์ต่อ GPU ช่วยเพิ่มเอาท์พุตสูงสุดของ T4 1.85 ถึง 2.02× ในทั้งสี่รุ่น: 582.5 ถึง 1,176.1 โทเค็น/วินาทีบน Ministral 3 3B, 383.6 ถึง 765.7 ในรุ่น 8B และ 158.1 ถึง 310.8 บน Qwen3.8 27B gpt-oss 120B ปรับขนาด 1.85× ถึง 787.9 โทเค็น/วินาทีบน T4 และ 1.98× ถึง 905.8 บน Precision 7875 โดยมีจุดสูงสุดที่ 128 คำขอพร้อมกัน เทียบกับ 64 สำหรับ T4
การแบ่ง gpt-oss 120B ตามเลเยอร์ในการ์ดทั้งสองเป็นวิธีที่ช้ากว่าในการใช้ GPU ตัวที่สองเมื่อโมเดลนั้นพอดีกับการ์ดตัวหนึ่งอยู่แล้ว โดยให้บริการผู้ใช้หนึ่งรายที่ 170.6 โทเค็น/วินาที ภายใน 3% ของการ์ดใบเดียว และสูงสุดที่ 539.2 ซึ่งสูงกว่า GPU หนึ่งตัว 27% แต่ยังน้อยกว่า 787.9 ที่แบบจำลองทั้งสองส่งมา เค้าโครงแบบแยกส่วนได้รับตำแหน่งสำหรับรุ่นที่ไม่พอดีกับการ์ดใบเดียว ซึ่งเป็นที่มาของ MiniMax M2.7
MiniMax M2.7 เป็นโมเดลที่ผู้เชี่ยวชาญผสมผสานกันด้วยพารามิเตอร์ 230 พันล้านพารามิเตอร์ และการวัดปริมาณ 4 บิตนี้ใช้เวลา 129.3GB ซึ่งมากกว่า 96GB บน RTX PRO 6000 หนึ่งตัว T4 สร้างโทเค็น 30.3/วินาทีสำหรับผู้ใช้หนึ่งรายบนการ์ดใบเดียวและยังใช้เวลา 16.2 วินาทีในการส่งคืนโทเค็นแรก การแยกระหว่างการ์ดทั้งสองใบ เอาต์พุตสำหรับผู้ใช้คนเดียวเพิ่มขึ้นเป็น 83.7 โทเค็น/วินาที หรือ 2.8 เท่าของอัตราการ์ดเดียว เวลาในการโทเค็นแรกลดลงจาก 16.2 เป็น 3.1 วินาที และปริมาณงานสูงสุดเพิ่มขึ้นจาก 35.5 เป็น 127.3 โทเค็น/วินาที
ตัวเลข one-GPU แสดงให้เห็นว่าแพลตฟอร์มโฮสต์มีความสำคัญมากเพียงใดเมื่อโมเดลล้นเข้าไปในหน่วยความจำระบบ DDR5-6400 แปดช่องสัญญาณของ T4 เหนือกว่า Pro Precision 9 T2 แบบสี่ช่องสัญญาณที่ 22.6 โทเค็น/วินาที 34% และเหนือกว่า Pro Max Tower T2 แบบสองช่องสัญญาณที่ 15.8 ถึง 1.9 เท่า แม้ว่าการ์ด 600W ของระบบนั้นจะเร็วกว่าในทุกรุ่นที่พอดี Precision 7875 ขยับขอบ T4 ที่ 32.8 โทเค็น/วินาที โดยมีแบนด์วิธหน่วยความจำน้อยลง 35% ดังนั้น แบนด์วิดท์เพียงอย่างเดียวจึงไม่สามารถอธิบายผลลัพธ์ได้ เรารายงานตะกั่วของ 7875 ว่าวัดได้โดยไม่แยกสาเหตุของมันออก
โหลดแบบเย็นชอบไดรฟ์ Gen5: T4 โหลด gpt-oss:120b จาก SK hynix Gen5 SSD ใน 15.2 วินาที ซึ่งตรงกับ Pro Precision 9 T2 และเหนือกว่า 25.8 และ 28.2 วินาทีใน Precision 7875 ที่ติดตั้ง Gen4 และ Pro Max Tower T2 วอร์มโหลดจากแคชของเพจกลับลำดับดังกล่าว โดย 7875 ที่ 5.0 วินาที เทียบกับ 7.5 บน T4 และการโหลดสำเนาลงบน GPU แต่ละตัวพร้อมกันใช้เวลา 26.5 วินาทีบน T4
RAG, การปรับแต่งแบบละเอียดและ AI แบบสร้างสรรค์
การทดสอบ RAG-at-scale จะซ่อนคำถาม SQuAD ไว้ในข้อความ Wikipedia นับล้านข้อความ ฝังคำถามเหล่านั้นด้วยข้อความแบบฝังแบบโนมิก สร้างดัชนี HNSW และคำตอบด้วย Phi-4-mini GPU สองตัวลดเวลาในการฝังของ T4 จาก 890 เหลือ 464 วินาที ซึ่งเร็วขึ้น 1.92 เท่า เทียบกับ 423 วินาทีสำหรับ Precision 7875 การ์ด 600W ใน Pro Max Tower T2 เป็น GPU เดี่ยวที่เร็วที่สุดที่ 722 วินาที
การสร้างดัชนีและการค้นหาเวกเตอร์ทำงานบน CPU และนั่นคือจุดที่ T4 เป็นผู้นำ โดยสร้างดัชนี HNSW ใน 27.3 วินาที เทียบกับ 34.8 บน Precision 7875 และ 118.6 บน Pro Max Tower T2 และค้นหาที่ 98,503 คำค้นหา/วินาทีที่ ef 64, 1.51× 7875 และ 5.6× ในระบบ Core Ultra ที่ ef 256 มีการสืบค้น 32,149 ครั้ง/วินาที โดยสามารถเรียกคืนได้ 97.6% เมื่อเทียบกับการค้นหาแบบตรงทั้งหมด โดยคำตอบจะกลับมาในเวลามัธยฐาน 0.12 วินาที
LoRA ยุคเดียวทดสอบปรับแต่ง Ministral 3 8B ใน BF16 บน Dolly 15k ผ่าน 1,849 ขั้น และให้คะแนนตัวอย่าง 200 รายการทุกๆ 100 ก้าว ทุกระบบเริ่มต้นที่การขาดทุนที่ถือเอาไว้ที่ 1.534 และสิ้นสุดระหว่าง 1.167 ถึง 1.172 ดังนั้นความแตกต่างจึงขึ้นอยู่กับเวลาในแต่ละยุค T4 GPU หนึ่งตัวเสร็จสิ้นใน 31.5 นาทีที่ 1,584 โทเค็น/วินาที ภายใน 3% ของ Pro Precision 9 T2 บนการ์ด Max-Q เดียวกัน Precision 7875 ใช้เวลา 27.2 นาที และการ์ด 600W ใน Pro Max Tower T2 ใช้เวลา 22.3 นาที การเพิ่ม GPU ตัวที่สองทำให้ยุคของ T4 ลดลงเหลือ 19.7 นาทีที่ 2,528 โทเค็น/วินาที ซึ่งเร่งความเร็วได้ 1.60× ซึ่งเหนือกว่าการ์ด 600W ตัวเดียวที่ 22.3 นาที ในขณะที่ Precision 7875 เสร็จสิ้นยุค GPU สองตัวในเวลา 18.1 นาที ซึ่งเร็วขึ้น 1.50×
การ์ดทั้งสองรันข้อมูลขนานกันโดยมีตัวอย่างสองตัวต่อ GPU และการไล่ระดับสีสะสมเป็นชุดเดียวกันทั่วโลกที่แปด ดังนั้นการทำงานของ GPU สองตัวจึงเห็นตัวอย่างเดียวกันในแต่ละขั้นตอนและจบลงด้วยการสูญเสียเท่ากัน ด้วยตัวอย่างสั้นๆ สองตัวอย่างต่อ GPU ในแต่ละรอบ การ์ดใบที่สองจึงมีงานเพียงเล็กน้อยในการดูดซับ และการแลกเปลี่ยนการไล่ระดับสีจะใช้ส่วนแบ่งที่มากขึ้นในแต่ละขั้นตอน ยุคนี้สูงสุดที่ 19.5GiB ของหน่วยความจำ GPU บนการ์ดเดียว และ 19.7GiB ต่อการ์ดบนสองการ์ด ซึ่งถือเป็นเศษเสี้ยวของความจุ 96GB
นอกจากนี้ T4 ยังส่งผ่านเอเจนต์การเขียนโค้ดทุกตัวที่ทำงานในทุกระดับของโมเดล รวมถึง gpt-oss:20b ทั้งสามตัวที่ทำงานที่บริบท 64K โดยที่อีกสามระบบผ่านสองในสามระบบ และสร้างโทเค็น/วินาที 161.5 บน gpt-oss:120b การสร้างภาพทำงานบน GPU ตัวเดียว ดังนั้น 40.96 ภาพ/นาทีบน FLUX.2 klein ใน BF16 จึงอยู่ในระดับเดียวกับระบบ Max-Q อื่นๆ และอยู่หลังการ์ด 600W ที่ 54.25
ผลลัพธ์ของ CPU, อุปกรณ์จัดเก็บข้อมูล, ความร้อน และการบริการ
ผลลัพธ์ของ CPU วางคอร์ 86 Xeon ของ T4 เทียบกับคอร์ Threadripper 96 คอร์ของ Precision 7875 โดยมี T2 24 คอร์สองตัวเป็นจุดอ้างอิง T4 เป็นผู้นำโดยที่แบนด์วิดท์หน่วยความจำเป็นตัวตัดสินผลลัพธ์ และ 7875 เป็นผู้นำในเรื่องที่จำนวนคอร์และนาฬิกาเป็นตัวกำหนด
T4 ได้คะแนน 619.8 GIPS ใน 7-Zip และ 961.8 ตัวอย่าง/นาทีใน Blender Monster, 2.2 และ 2.4 เท่าของ 24-core Pro Precision 9 T2 ในขณะที่ Precision 7875 วิ่งนำหน้า 37% ใน 7-Zip และ 30% เหนือกว่าใน Blender สร้าง LLVM เสร็จใน 43.7 วินาทีเทียบกับ 58.4 และเคอร์เนล Linux allmodconfig บิวด์อิน 264 วินาที เทียบกับ 312 ความเร็วต่อคอร์คือจุดอ่อนของ T4 โดยมีคะแนน 7-Zip แบบเธรดเดียวต่ำสุดในกลุ่มนี้ที่ 8.85 GIPS
การเข้ารหัส x265 ของ HandBrake มีค่าผิดปกติที่นี่ และสาเหตุก็คือตัวเข้ารหัสมากกว่าโปรเซสเซอร์: อีกสามระบบทั้งหมดลงจอดระหว่าง 40.0 ถึง 41.7fps ด้วย 24 หรือ 96 คอร์ ดังนั้น x265 ที่ค่าที่ตั้งไว้ล่วงหน้านี้จึงไม่ปรับขนาดตามจำนวนคอร์ และ 31.4fps ของ T4 นั้นสอดคล้องกับความเร็วต่อคอร์ที่ต่ำกว่าบนเธรดที่ใช้ x265 ในระหว่างการเข้ารหัส T4 มีความเร็วเฉลี่ยประมาณ 1GHz ใน 172 เธรดที่อุณหภูมิ 51°C ถึง 64°C ซึ่งแสดงให้เห็นว่าชิปส่วนใหญ่ไม่ได้ใช้งาน SVT-AV1 ปรับขนาดได้ดีขึ้นที่ 159.4fps บน T4 เทียบกับ 255.8 บน 7875
DDR5-6400 แปดช่องสัญญาณให้ T4 328GB/s ใน STREAM Triad ซึ่งสูงกว่า DDR5-5600 ของ Precision 7875 ถึง 53% และ 2.3 เท่าของ Pro Precision 9 T2 สี่ช่องสัญญาณ งานที่จำกัดขอบเขตแบนด์วิดท์มีดังนี้: T4 แก้ไขเคส OpenFOAM drivAer 3 ล้านเซลล์ใน 293 วินาที เทียบกับ 556 ใน 7875 และ 826 บน Pro Precision 9 T2 ในขณะที่ Pro Max Tower T2 ไม่เสร็จสิ้นภายในขีดจำกัด 150 นาทีของชุด; T4 ยังวิ่งเคส 22.6 ล้านเซลล์ใน 6,851 วินาที
GROMACS benchPEP ซึ่งเป็นกรณีพลศาสตร์โมเลกุลแบบ all-core ขนาดใหญ่ วิ่งที่ 1.243 ns/วันบน T4 เทียบกับ 1.034 ใน 7875 และค่าแก้ LU สูงถึง 1,660 GFLOPS เทียบกับ 1,172 y-cruncher คำนวณ Pi 10 พันล้านหลักใน 53.9 วินาทีเทียบกับ 83.7 และ 25 พันล้านใน 155.6 วินาทีเทียบกับ 259.6 การประมวลผลหนาแน่นซึ่งยังคงอยู่ในแคชสนับสนุน Threadripper ซึ่งนำ OpenBLAS DGEMM ที่ 4,745 GFLOPS เทียบกับ 3,664
ClickHouse ดำเนินการค้นหา ClickBench 43 ครั้งในเวลาร้อน 3.21 วินาทีและเย็น 6.45 วินาทีบน T4 ตามหลัง 7875 0.33 วินาทีในช่วงร้อนและ 0.64 วินาทีล่วงหน้าในช่วงเย็น Valkey ชื่นชอบคอร์ที่รวดเร็วมากกว่าหลายคอร์ และคำขอ 666,714 SET ของ T4 เป็นไปตามระบบเปรียบเทียบทั้งสามระบบ โดย Core Ultra 9 285K เป็นผู้นำที่ 1.72 ล้าน ซึ่งเป็นรูปแบบที่ตรงกับผลลัพธ์แบบเธรดเดียวของ T4 และคุ้มค่าที่จะชั่งน้ำหนักสำหรับบริการที่มีความล่าช้าในการตอบสนอง ด้วยการโหลด 172 เธรดทั้งหมดและโปรเซสเซอร์ที่อุณหภูมิเฉลี่ย 87°C T4 ค้นหา 68.21 ล้านโหนด/วินาทีใน Stockfish, 1.5× ของ Pro Precision 9 T2 แบบ 48 เธรด และต่ำกว่าครึ่งหนึ่งของ 7875's 168.27 บน 192 เธรด
ไดรฟ์บูต SK hynix Gen5 ขนาด 2TB ของ T4 ให้ความเร็วในการอ่านตามลำดับที่ 14,152MB/s และความเร็วในการเขียน 10,078MB/s ซึ่งมากกว่าไดรฟ์ Gen4 ประมาณสองเท่าใน Precision 7875 และ Pro Max Tower T2 โดยมีประสิทธิภาพแบบสุ่มสูงสุดที่ 2.31 ล้าน IOPS การอ่าน และ 1.83 ล้าน IOPS การเขียน การอ่านตามลำดับ 20,914MB/s ของ Pro Precision 9 T2 นั้นเหนือกว่าลิงก์ Gen5 x4 ที่มีอยู่ ซึ่งเหมาะกับไดรฟ์ Samsung PM9E1 แบบ Striped Array ของระบบนั้น ที่นี่ไดรฟ์สำหรับบูตได้รับการทดสอบเพียงอย่างเดียวโดยไม่มีไดรฟ์ 2TB ตัวที่สอง
ด้วย BIOS ในโหมด Ultra Performance ทำให้ Xeon 698X มีอุณหภูมิสูงสุดที่ 93°C ใน 7-Zip และ 96°C ใน GROMACS และตัวเลขนาฬิกาเป็นค่าเฉลี่ยของ CPU แบบลอจิคัลทั้งหมด 172 ตัว Blender และ Stockfish โหลดทุกเธรดและรักษาความเร็วไว้ที่ 2.5GHz ถึง 2.6GHz ซึ่งสูงกว่าฐาน 2.0GHz GROMACS และ OpenBLAS โหลดฟิสิคัลคอร์ 64 และ 86 คอร์ และปล่อยให้เธรดที่เหลือไม่ได้ใช้งานใกล้กับ 0.8GHz ซึ่งเป็นเหตุผลว่าทำไมค่าเฉลี่ยจึงอ่านได้ประมาณ 1.3GHz งานที่นำโดย GPU ช่วยให้โปรเซสเซอร์เย็นลง ที่อุณหภูมิเฉลี่ย 61°C ถึง 65°C ระหว่างการให้บริการ LLM การปรับแต่งแบบละเอียด และ RAG เนื่องจากการทดสอบเหล่านั้นอาศัยการ์ด
บทสรุป
Dell Pro Precision 9 T4 สร้างขึ้นสำหรับงาน AI ในพื้นที่ และ RTX PRO 6000 ตัวที่สองเป็นที่ที่แสดงให้เห็น การ์ด Max-Q สองใบเพิ่มทรูพุตการให้บริการสูงสุดที่ 1.85 ถึง 2.02× ในสี่รุ่นและทรูพุตแบบฝัง 1.92× ตัดยุค LoRA บน Ministral 3 8B จาก 31.5 เป็น 19.7 นาที และเปลี่ยน MiniMax M2.7 ซึ่งเป็นโมเดลที่ใหญ่เกินไปสำหรับการ์ดใบเดียว จาก 30.3 เป็น 83.7 โทเค็น/วินาทีสำหรับผู้ใช้คนเดียว บน gpt-oss 120B หนึ่งเซิร์ฟเวอร์ต่อ GPU เข้าถึงโทเค็นทั้งหมด 7,091 โทเค็น/วินาทีที่ 64 คำขอ ในขณะที่การแยกโมเดลระหว่างการ์ดทั้งสองตัวส่งคืนโทเค็นแรกของผู้ใช้คนเดียวใน 719 มิลลิวินาที เทียบกับ 1,189 มิลลิวินาที
![]()
DDR5-6400 แปดช่องสัญญาณทำให้ Xeon 698X มีแบนด์วิธหน่วยความจำ 53% เหนือกว่า Threadripper PRO 9995WX แบนด์วิดท์ดังกล่าวทำให้ T4 ไปสู่ผลการค้นหา OpenFOAM, GROMACS benchPEP, y-cruncher และ HNSW ที่เร็วกว่า Precision 7875 และพื้นที่จัดเก็บข้อมูล Gen5 ก็โหลดโมเดลขนาดใหญ่ได้เร็วกว่า แชสซีสมควรได้รับเครดิตเช่นกัน ด้วยรูปแบบการระบายความร้อนที่ดีที่สุดที่เราเคยเห็นจาก Dell ในคลาสนี้ และการเข้าถึงแหล่งจ่ายไฟโดยไม่ต้องใช้เครื่องมือ
7875 ยังคงนำหน้าด้านการเรนเดอร์ การบีบอัด และการคอมไพล์ด้วยคอร์ 18 ถึง 38% และ 60% ใน SVT-AV1 ความเร็วต่อคอร์ของ Xeon นั้นตามรอยทุกระบบในกลุ่มนี้ ซึ่งแสดงให้เห็นใน Valkey และบริการแบบเธรดเล็กน้อยอื่นๆ การปรับแต่งอย่างละเอียดบน GPU ตัวเดียวก็ช้าลงเช่นกันใน T4 โดยที่ยุค LoRA ใช้เวลา 31.5 นาที เทียบกับ 27.2 บน 7875 และ 22.3 บนการ์ด 600W ใน Pro Max Tower T2 โดยทุกระบบจะเสร็จสิ้นภายใน 0.005 ของการสูญเสียที่ค้างไว้เท่าเดิม
ด้วยราคาประมาณ 66,600 เหรียญสหรัฐฯ ตามการกำหนดค่า T4 เหมาะกับทีมที่ต้องการให้บริการ ฝัง และปรับแต่งโมเดลภายในองค์กร รวมถึงโมเดลที่ต้องการหน่วยความจำ GPU มากกว่า 96GB ควบคู่ไปกับการจำลองและการวิเคราะห์ที่ผูกกับหน่วยความจำบนเครื่องเดียวกัน ผู้ซื้อที่เน้นการเรนเดอร์และคอมไพล์เป็นส่วนใหญ่จะพบว่าแพลตฟอร์ม Threadripper เร็วขึ้น และผู้ซื้อที่ต้องการ GPU หนึ่งตัวสามารถรับการ์ดใบเดียวกันใน Pro Precision 9 T2 ที่เล็กกว่าได้
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/ผู้อำนวยการฝ่ายกลยุทธ์ระดับโลก
WhatsApp / WeChat: +86 13426366826
อีเมล: yangyd@qianxingdata.com
เว็บไซต์: www.qianxingdata.com/www.storagesserver.com
มุ่งเน้นธุรกิจ:
การจัดจำหน่ายผลิตภัณฑ์ ICT/บูรณาการระบบและบริการ/โซลูชั่นโครงสร้างพื้นฐาน
ด้วยประสบการณ์การจัดจำหน่ายด้านไอทีมากกว่า 20 ปี เราร่วมมือกับแบรนด์ชั้นนำระดับโลกเพื่อนำเสนอผลิตภัณฑ์ที่เชื่อถือได้และบริการระดับมืออาชีพ
“ใช้เทคโนโลยีเพื่อสร้างโลกอัจฉริยะ” ผู้ให้บริการผลิตภัณฑ์ ICT ที่เชื่อถือได้ของคุณ!



