logo
Nhà Các trường hợp

Đánh giá Dell Pro Precision 9 T4: 86 nhân Xeon và hai GPU RTX PRO 6000 cho các mô hình quá lớn cho một card

Chứng nhận
Trung Quốc Beijing Qianxing Jietong Technology Co., Ltd. Chứng chỉ
Trung Quốc Beijing Qianxing Jietong Technology Co., Ltd. Chứng chỉ
Khách hàng đánh giá
Các nhân viên kinh doanh của Beijing Qianxing Jietong Technology Co., Ltd rất chuyên nghiệp và kiên nhẫn. Họ có thể cung cấp báo giá một cách nhanh chóng. Chất lượng và bao bì của sản phẩm cũng rất tốt. Sự hợp tác của chúng tôi rất suôn sẻ.

—— 《Festfing DV》 LLC

Khi tôi đang tìm kiếm gấp CPU intel và SSD Toshiba, Sandy từ Beijing Qianxing Jietong Technology Co., Ltd đã giúp đỡ tôi rất nhiều và nhanh chóng nhận được sản phẩm tôi cần. Tôi thực sự đánh giá cao cô ấy.

—— Kitty Yen

Sandy của Beijing Qianxing Jietong Technology Co., Ltd là một nhân viên bán hàng rất cẩn thận, người có thể nhắc nhở tôi về lỗi cấu hình kịp thời khi tôi mua máy chủ. Các kỹ sư cũng rất chuyên nghiệp và có thể nhanh chóng hoàn thành quá trình thử nghiệm.

—— Strelkin Mikhail Vladimirovich

Chúng tôi rất hài lòng với trải nghiệm làm việc với Bắc Kinh Qianxing Jietong. Chất lượng sản phẩm tuyệt vời và giao hàng luôn đúng hẹn. Đội ngũ bán hàng của họ chuyên nghiệp, kiên nhẫn và rất hữu ích với tất cả các câu hỏi của chúng tôi. Chúng tôi thực sự đánh giá cao sự hỗ trợ của họ và mong muốn có một mối quan hệ đối tác lâu dài. Rất khuyến khích!

—— Ahmad Navid

Chất lượng: Kinh nghiệm tuyệt vời với nhà cung cấp của tôi. MikroTik RB3011 đã được sử dụng, nhưng nó ở trong tình trạng rất tốt và mọi thứ hoạt động hoàn hảo.và tất cả những lo ngại của tôi đã được giải quyết nhanh chóng- Nhà cung cấp rất đáng tin cậy.

—— Geran Colesio

Tôi trò chuyện trực tuyến bây giờ

Đánh giá Dell Pro Precision 9 T4: 86 nhân Xeon và hai GPU RTX PRO 6000 cho các mô hình quá lớn cho một card

November 17, 2026

Dell Pro Precision 9 T4 là máy trạm dạng tháp đơn socket hàng đầu trong dòng Pro Precision của Dell, và đơn vị đánh giá này được cấu hình cho AI cục bộ ở quy mô mà hầu hết các máy trạm không thể đạt tới. Nó kết hợp bộ xử lý Intel Xeon 698X 86 lõi với 256GB bộ nhớ DDR5-6400 ECC, hai card NVIDIA RTX PRO 6000 Blackwell Max-Q 300W với mỗi card 96GB GDDR7, hai ổ SSD Gen5 2TB và một bộ điều hợp 25GbE cổng kép, sử dụng nguồn 2400W.


trường hợp công ty mới nhất về Đánh giá Dell Pro Precision 9 T4: 86 nhân Xeon và hai GPU RTX PRO 6000 cho các mô hình quá lớn cho một card  0


Những điểm chính cần lưu ý


  • 1,GPU thứ hai biến một mô hình không vừa trên một card thành một mô hình có thể sử dụng được. MiniMax M2.7 ở mức 129,3GB tạo ra 83,7 token/giây cho một người dùng khi chia đều cho cả hai card, gấp 2,8 lần so với 30,3 token/giây đạt được với một card và phần còn lại của mô hình trong bộ nhớ hệ thống.
  • 2,GPU thứ hai đã tăng khả năng phục vụ lên 1,85–2,02 lần và khả năng nhúng lên 1,92 lần. Sản lượng llama.cpp tối đa tăng từ 582,5 lên 1.176,1 token/giây trên Ministral 3 3B và từ 424,8 lên 787,9 token/giây trên gpt-oss 120B với một máy chủ mỗi GPU, trong khi nhúng một triệu đoạn văn Wikipedia giảm từ 890 xuống 464 giây.
  • 3,GPU thứ hai đã giảm 37% thời gian một kỷ nguyên LoRA: một kỷ nguyên trên Ministral 3 8B mất 31,5 phút trên một GPU và 19,7 phút trên hai GPU, kết thúc ở mức tổn thất bị loại trừ là 1,169 và 1,167.Băng thông bộ nhớ là nơi Xeon vượt trội. STREAM Triad đạt 328GB/giây, cao hơn 53% so với Threadripper PRO 9995WX trong Precision 7875, và T4 hoàn thành giải pháp drivAer OpenFOAM trong 293 giây so với 556 giây, và chạy y-cruncher 10 tỷ chữ số trong 53,9 giây so với 83,7 giây.
  • 4,Precision 7875 dẫn đầu trong các tác vụ CPU bị giới hạn bởi lõi: Threadripper 96 lõi của nó chạy nhanh hơn 37% trong 7-Zip và nhanh hơn 30% trong Blender Monster, và hoàn thành bản dựng LLVM trong 43,7 giây so với 58,4 giây.


Vị trí của T4


Dell định vị T4 là máy trạm dạng tháp đơn socket hàng đầu của mình cho các tổ chức cần mật độ tính toán và khả năng mở rộng tối đa, với phát triển AI, mô phỏng kỹ thuật và tính toán khoa học là danh sách công việc hàng đầu. Nó nằm trên Pro Precision 9 T2, sử dụng cùng nền tảng máy trạm Xeon 6 trong khung máy nhỏ hơn với một GPU. T4 bổ sung các bộ xử lý tám kênh hàng đầu, lên đến 86 lõi và không gian cho tối đa bốn card đồ họa tùy thuộc vào mẫu.


Các tùy chọn bộ xử lý bắt đầu từ Xeon 634 12 lõi, chạy qua Xeon 696X 64 lõi đến Xeon 698X 86 lõi trong đơn vị này, với bộ nhớ đệm 336MB, xung nhịp cơ bản 2,0GHz, tối đa 4,8GHz và định mức 350W. Bộ nhớ có thể mở rộng lên tới 4TB DDR5 RDIMM trên 16 khe cắm, và đơn vị này lấp đầy tám khe với các mô-đun 32GB ở tốc độ 6400MT/s. Đồ họa bắt đầu với một card RTX A400 duy nhất, với số lượng card tùy thuộc vào mẫu: trình cấu hình của Dell liệt kê bốn card RTX A1000, ba card RTX PRO 4000 Blackwell, hai card RTX PRO 6000 Max-Q 300W, hoặc một card RTX PRO 6000 600W.


Cấu hình cơ bản có giá 5.925 đô la. Bản dựng này cộng thêm 8.300 đô la cho Xeon 698X, 15.000 đô la cho 256GB bộ nhớ và 30.820 đô la cho cặp card RTX PRO 6000 Max-Q, trước khi tính đến lưu trữ, mạng và nâng cấp ProSupport 36 tháng mà Dell tự động áp dụng ở cấp độ này.


Cấu tạo, Thiết kế và Thông số kỹ thuật


T4 là một máy trạm dạng tháp đầy đủ với chiều cao 449,8mm, chiều rộng 203,7mm và chiều sâu 617,5mm, được liệt kê với trọng lượng tối thiểu 24,1kg và tối đa 33,6kg tùy thuộc vào cấu hình. Đơn vị này sử dụng nguồn Platinum 2400W mà trình cấu hình của Dell chọn cho cấu hình kép RTX PRO 6000, với nguồn 1500W làm mặc định cho các cấu hình nhẹ hơn.


Khả năng bảo trì là một điểm mạnh, bắt đầu bằng việc truy cập không cần dụng cụ thông qua chốt bảng điều khiển bên và bộ nguồn 2400W trượt ra từ phía sau trên cùng bằng tay. Mọi thứ khác, bao gồm cả card đồ họa và ổ SSD, đều có thể tháo ra bằng tua vít Phillips, và các điểm chạm màu xanh lam của Dell đánh dấu các bộ phận có thể tháo rời bằng tay. Phòng thí nghiệm thấy nền tảng này dễ sửa chữa tại hiện trường, điều này quan trọng ở mức giá này.


Hệ thống làm mát là sự thực hiện tốt nhất mà chúng tôi từng thấy từ Dell trong phân khúc máy trạm dạng tháp này. Luồng không khí di chuyển từ trước ra sau, và các tấm che được thiết kế riêng biệt dẫn luồng khí xuống và qua bộ xử lý và bộ nhớ, đồng thời giữ cho kênh đó tách biệt với khu vực PCIe. Điều này mang lại cho hai card 300W luồng không khí độc lập để chúng không hút không khí nóng từ Xeon 350W. Hai quạt nằm giữa khu vực bộ xử lý và khoang card, và cụm quạt mang các điểm chạm màu xanh lam giống nhau và nhấc ra để truy cập bộ nhớ.


Khả năng mở rộng thông qua sáu khe cắm PCIe kích thước đầy đủ: hai khe Gen5 x16 chứa GPU, một khe Gen5 x8, một khe Gen4 x8 và hai khe Gen4 với đầu nối x8 và dây x4. Lưu trữ bao gồm ba khe cắm M.2 Gen5 bên trong và một khe Gen4, hai khay SATA 3,5 inch bên trong và một FlexBay phía trước chứa tối đa bốn ổ NVMe hoặc hai ổ 3,5 inch cùng với ổ quang mỏng tùy chọn. Đơn vị này khởi động từ ổ Gen5 2TB bên trong và chứa ổ Gen5 2TB thứ hai trong một khe M.2 bên trong khác.


Bảng điều khiển phía trước có giắc cắm tai nghe, hai cổng USB-A 10Gbps, một cổng USB-C 20Gbps có PowerShare, một cổng USB-C 10Gbps và một khe cắm thẻ SD tùy chọn. Mặt sau bổ sung các cổng RJ-45 10GbE và 1GbE, bốn cổng USB-A 10Gbps, hai cổng USB-C 10Gbps, một cổng USB-C 20Gbps, cổng nối tiếp, hai cổng PS/2 và đầu ra âm thanh. Đơn vị này bổ sung bộ điều hợp Intel E810-XXV cổng kép 25GbE SFP28, MediaTek Wi-Fi 7 MT7925 với Bluetooth 5.4, đầu đọc thẻ đa phương tiện và card mở rộng USB-C kép của Dell.


Bảo mật và quản lý bao gồm TPM 2.0, Dell SafeBIOS, phát hiện xâm nhập khung máy, hỗ trợ ổ đĩa tự mã hóa, xóa an toàn BIOS và Intel vPro Enterprise. Dell liệt kê T4 với tới 85% nhựa tái chế trong các thành phần chính, 90% nhôm tái chế trong tay cầm và 11% thép tái chế trong khung máy, và cấu hình đạt chứng nhận ENERGY STAR.



Mục Thông số kỹ thuật
Mẫu Dell Pro Precision 9 T4 (PW9T4260)
Bộ xử lý (đã thử nghiệm)

Intel Xeon 698X, 86 lõi / 172 luồng, bộ nhớ đệm 336MB,Xung nhịp cơ bản 2,0GHz, tối đa 4,8GHz, 350W

Các tùy chọn bộ xử lý Xeon 634 (12 lõi) đến Xeon 698X (86 lõi)
Bộ nhớ 256GB (8x 32GB) DDR5-6400 RDIMM ECC; 16 khe cắm, tối đa 4TB
Đồ họa 2x NVIDIA RTX PRO 6000 Blackwell Max-Q, mỗi card 96GB GDDR7, mỗi card 300W
Hệ điều hành Windows 11 Pro for Workstations (thử nghiệm trên Ubuntu 26.04.1 LTS)
Lưu trữ theo cấu hình 2x 2TB M.2 2280 Gen5 x4 TLC SED (cả hai trong khe M.2 bên trong)
Khe cắm lưu trữ bên trong 3x M.2 2230/2280 Gen5 NVMe; 1x M.2 2230/2280 Gen4 NVMe; 2x SATA 3,5 inch
FlexBay Tối đa 4 ổ NVMe cộng với ODD mỏng tùy chọn, hoặc 2x SATA 3,5 inch
Khe cắm PCIe 2x Gen5 x16; 1x Gen5 x8; 1x Gen4 x8; 2x Gen4 x8 (x4 điện)
Mạng

Intel E810-XXV cổng kép 25GbE SFP28 (card mở rộng);

10GbE và 1GbE RJ-45 tích hợp; MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4

Cổng phía trước

1x USB-C 20Gbps có PowerShare; 1x USB-C 10Gbps;

2x USB-A 10Gbps; giắc cắm tai nghe; khe cắm thẻ SD tùy chọn

Cổng phía sau

1x USB-C 20Gbps; 2x USB-C 10Gbps;

4x USB-A 10Gbps; cổng nối tiếp; 2x PS/2; đầu ra âm thanh

Nguồn điện 2400W Platinum (tùy chọn 1500W)
Kích thước 449,8 x 203,7 x 617,5mm
Trọng lượng 24,1kg đến 33,6kg tùy theo cấu hình
Bảo mật và quản lý

TPM 2.0, Dell SafeBIOS, phát hiện xâm nhập khung máy,

hỗ trợ ổ đĩa tự mã hóa, xóa an toàn BIOS, Intel vPro Enterprise

Bền vững

Tới 85% nhựa tái chế trong các thành phần chính, tay cầm bằng nhôm tái chế 90%,

khung máy bằng thép tái chế 11%; đạt chứng nhận ENERGY STAR

Bảo hành ProSupport với dịch vụ tại chỗ sau khi chẩn đoán từ xa, 36 tháng
Giá 5.925 đô la cơ bản; khoảng 66.600 đô la theo cấu hình


Thiết lập và Phương pháp thử nghiệm

Tất cả bốn hệ thống đều chạy Ubuntu 26.04.1 LTS trên kernel 7.0.0-43 với trình điều khiển NVIDIA 595.99.02, CUDA 13, bản dựng llama.cpp b11716 và Ollama 0.40.3, trên cấu hình năng lượng hiệu suất Linux. Kết quả đến từ sr-client cho các tác vụ AI cục bộ và máy khách, sr-harness cho biên dịch, nén, mật mã, phục vụ web và y-cruncher, và sr-suite r5.28 cho GROMACS, OpenFOAM, ClickHouse, Valkey và băng thông bộ nhớ; mỗi số liệu là giá trị trung vị của các lần chạy lặp lại. Tất cả các hệ thống đều chạy với chế độ nhiệt BIOS được đặt thành Ultra Performance, với T4 trên BIOS 1.2.0.


Mỗi hệ thống so sánh là một máy trạm Dell với đồ họa RTX PRO 6000 Blackwell. Precision 7875 kết hợp Threadripper PRO 9995WX 96 lõi với cùng hai card Max-Q và 512GB DDR5-5600, làm cho nó trở thành đối thủ cạnh tranh gần nhất. Pro Precision 9 T2 chạy Xeon 658X 24 lõi với một card Max-Q, và Pro Max Tower T2 chạy Core Ultra 9 285K 24 lõi với RTX PRO 6000 600W, cho thấy giới hạn công suất cao hơn mang lại lợi ích gì cho mỗi GPU.


Hiệu suất AI cục bộ


Mỗi hệ thống ở đây đều có ít nhất một card RTX PRO 6000 Blackwell với 96GB GDDR7, vì vậy kết quả một GPU đo lường card, giới hạn công suất của nó và tốc độ nền tảng cung cấp cho nó. Hai card của T4 là yếu tố tạo nên sự khác biệt, và các bài kiểm tra hai GPU chạy mỗi mô hình theo ba cách nếu có thể: hai máy chủ độc lập, mỗi máy chủ một GPU, để đo thông lượng; một mô hình được chia theo lớp trên cả hai card; và, đối với MiniMax M2.7, một card với phần còn lại của mô hình trong bộ nhớ hệ thống.


Trên một GPU, T4 đạt được mức mà giới hạn 300W đặt ra. Nó tạo ra 166,9 token/giây cho một người dùng trên gpt-oss 120B và đạt đỉnh 424,8 trên 64 yêu cầu đồng thời, trong khoảng 1 đến 9% so với card Max-Q giống hệt của Precision 7875 trên tất cả bốn mô hình và ngang bằng với Pro Precision 9 T2. Card 600W trong Pro Max Tower T2 nhanh hơn 13 đến 25% ở mức cao nhất trên mọi mô hình, đạt 520,7 token/giây trên gpt-oss 120B.


Chạy một máy chủ mỗi GPU đã tăng sản lượng tối đa của T4 lên 1,85 đến 2,02 lần trên bốn mô hình: 582,5 lên 1.176,1 token/giây trên Ministral 3 3B, 383,6 lên 765,7 trên mô hình 8B và 158,1 lên 310,8 trên Qwen3.8 27B. gpt-oss 120B tăng gấp 1,85 lần lên 787,9 token/giây trên T4 và gấp 1,98 lần lên 905,8 trên Precision 7875, đạt đỉnh ở 128 yêu cầu đồng thời so với 64 của T4.


Chia gpt-oss 120B theo lớp trên cả hai card là cách chậm hơn để sử dụng GPU thứ hai khi mô hình đã vừa trên một card: nó phục vụ một người dùng với tốc độ 170,6 token/giây, trong vòng 3% so với một card, và đạt đỉnh 539,2, cao hơn 27% so với một GPU nhưng kém xa 787,9 mà hai bản sao mang lại. Cách bố trí chia sẻ này có ích cho các mô hình không vừa trên một card, đó là trường hợp của MiniMax M2.7.


MiniMax M2.7 là một mô hình mixture-of-experts với 230 tỷ tham số, và quá trình lượng tử hóa 4 bit này cần 129,3GB, nhiều hơn 96GB trên một card RTX PRO 6000. Trên một card với phần còn lại trong bộ nhớ hệ thống, T4 tạo ra 30,3 token/giây cho một người dùng và mất 16,2 giây để trả về token đầu tiên. Khi chia đều cho cả hai card, sản lượng cho một người dùng tăng lên 83,7 token/giây, gấp 2,8 lần tốc độ một card; thời gian đến token đầu tiên giảm từ 16,2 xuống 3,1 giây và thông lượng tối đa tăng từ 35,5 lên 127,3 token/giây.


Các số liệu một GPU cho thấy nền tảng máy chủ quan trọng như thế nào khi mô hình tràn vào bộ nhớ hệ thống. Tám kênh DDR5-6400 của T4 giúp nó vượt trội 34% so với Pro Precision 9 T2 bốn kênh ở mức 22,6 token/giây và gấp 1,9 lần so với Pro Max Tower T2 hai kênh ở mức 15,8, mặc dù card 600W của hệ thống đó nhanh hơn trên mọi mô hình vừa vặn. Precision 7875 nhỉnh hơn T4 ở mức 32,8 token/giây với băng thông bộ nhớ ít hơn 35%, vì vậy chỉ băng thông không giải thích được kết quả; chúng tôi báo cáo mức dẫn đầu của 7875 như đo được mà không cô lập nguyên nhân.


Tải mô hình lạnh ưu tiên các ổ Gen5: T4 tải gpt-oss:120b từ ổ SSD SK hynix Gen5 của nó trong 15,2 giây, ngang bằng với Pro Precision 9 T2 và nhanh hơn nhiều so với 25,8 và 28,2 giây trên Precision 7875 và Pro Max Tower T2 được trang bị Gen4. Tải nóng từ bộ nhớ đệm trang đảo ngược thứ tự đó, với 7875 ở mức 5,0 giây so với 7,5 trên T4, và tải bản sao lên mỗi GPU cùng lúc mất 26,5 giây trên T4.


RAG, Tinh chỉnh và AI tạo sinh


Bài kiểm tra RAG quy mô lớn ẩn các câu hỏi SQuAD trong một triệu đoạn văn Wikipedia, nhúng chúng bằng nomic-embed-text, xây dựng chỉ mục HNSW và trả lời bằng Phi-4-mini. Hai GPU đã giảm thời gian nhúng của T4 từ 890 xuống 464 giây, tăng tốc 1,92 lần, so với 423 giây cho Precision 7875; card 600W trong Pro Max Tower T2 là GPU đơn nhanh nhất với 722 giây.


Việc xây dựng chỉ mục và tìm kiếm vector chạy trên CPU, và đó là nơi T4 dẫn đầu. Nó đã xây dựng chỉ mục HNSW trong 27,3 giây so với 34,8 trên Precision 7875 và 118,6 trên Pro Max Tower T2, và tìm kiếm với 98.503 truy vấn/giây ở ef 64, gấp 1,51 lần 7875 và gấp 5,6 lần hệ thống Core Ultra. Ở ef 256, nó giữ 32.149 truy vấn/giây với độ chính xác 97,6% so với tìm kiếm chính xác, với các câu trả lời được trả về trong thời gian trung vị là 0,12 giây.


Bài kiểm tra một kỷ nguyên LoRA tinh chỉnh Ministral 3 8B trong BF16 trên Dolly 15k qua 1.849 bước và ghi điểm 200 ví dụ bị loại trừ sau mỗi 100 bước. Mọi hệ thống đều bắt đầu ở mức tổn thất bị loại trừ là 1,534 và kết thúc trong khoảng từ 1,167 đến 1,172, vì vậy sự khác biệt nằm ở thời gian mỗi kỷ nguyên. Một GPU T4 hoàn thành trong 31,5 phút với tốc độ 1.584 token/giây, trong vòng 3% so với Pro Precision 9 T2 trên cùng card Max-Q; Precision 7875 mất 27,2 phút và card 600W trong Pro Max Tower T2 mất 22,3 phút. Việc bổ sung GPU thứ hai đã giảm kỷ nguyên của T4 xuống còn 19,7 phút với tốc độ 2.528 token/giây, tăng tốc 1,60 lần, vượt qua 22,3 phút của card 600W đơn lẻ, trong khi Precision 7875 hoàn thành kỷ nguyên hai GPU của nó trong 18,1 phút, tăng tốc 1,50 lần.


Cả hai card đều chạy song song dữ liệu với hai ví dụ mỗi GPU và gradient được tích lũy đến cùng một batch toàn cục gồm tám, vì vậy lần chạy hai GPU thấy cùng các ví dụ ở mỗi bước và đạt được cùng một mức tổn thất. Với hai ví dụ ngắn mỗi GPU trong mỗi lần chạy, card thứ hai có ít công việc để xử lý và trao đổi gradient chiếm phần lớn hơn của mỗi bước. Kỷ nguyên đạt đỉnh 19,5GiB bộ nhớ GPU trên một card và 19,7GiB mỗi card trên hai card, chỉ là một phần nhỏ trong số 96GB có sẵn.


T4 cũng vượt qua mọi lần chạy của tác nhân mã hóa ở mọi cấp độ mô hình, bao gồm cả ba lần chạy gpt-oss:20b ở ngữ cảnh 64K, nơi ba hệ thống còn lại vượt qua hai trong ba, và tạo ra 161,5 token/giây trên gpt-oss:120b. Việc tạo ảnh chạy trên một GPU, vì vậy 40,96 ảnh/phút trên FLUX.2 klein trong BF16 của nó ngang bằng với các hệ thống Max-Q khác và sau card 600W ở mức 54,25.


Kết quả CPU, Lưu trữ, Nhiệt độ và Bảo trì


Kết quả CPU đặt 86 lõi Xeon của T4 so với 96 lõi Threadripper của Precision 7875, với hai T2 24 lõi làm điểm tham chiếu. T4 dẫn đầu ở những nơi băng thông bộ nhớ quyết định kết quả, và 7875 dẫn đầu ở những nơi số lượng lõi và xung nhịp quyết định.


T4 đạt 619,8 GIPS trong 7-Zip và 961,8 mẫu/phút trong Blender Monster, gấp 2,2 và 2,4 lần Pro Precision 9 T2 24 lõi, trong khi Precision 7875 chạy nhanh hơn 37% trong 7-Zip và nhanh hơn 30% trong Blender, hoàn thành bản dựng LLVM trong 43,7 giây so với 58,4 giây, và bản dựng Linux kernel allmodconfig trong 264 giây so với 312 giây. Tốc độ mỗi lõi là điểm yếu của T4, với điểm 7-Zip một luồng thấp nhất trong nhóm này ở mức 8,85 GIPS.


Mã hóa x265 của HandBrake là trường hợp ngoại lệ ở đây, và nguyên nhân là do bộ mã hóa hơn là bộ xử lý: ba hệ thống còn lại đều đạt từ 40,0 đến 41,7fps với 24 hoặc 96 lõi, vì vậy x265 ở cài đặt này không mở rộng theo số lượng lõi, và 31,4fps của T4 phù hợp với tốc độ mỗi lõi thấp hơn của nó trên các luồng mà x265 sử dụng. Trong quá trình mã hóa, T4 trung bình khoảng 1GHz trên 172 luồng ở nhiệt độ 51°C đến 64°C, cho thấy phần lớn chip không hoạt động. SVT-AV1 mở rộng tốt hơn, đạt 159,4fps trên T4 so với 255,8 trên 7875.


Tám kênh DDR5-6400 mang lại cho T4 băng thông 328GB/giây trong STREAM Triad, cao hơn 53% so với DDR5-5600 của Precision 7875 và gấp 2,3 lần Pro Precision 9 T2 bốn kênh. Các tác vụ bị giới hạn băng thông theo sau: T4 đã giải quyết trường hợp drivAer OpenFOAM 3 triệu ô trong 293 giây so với 556 trên 7875 và 826 trên Pro Precision 9 T2, trong khi Pro Max Tower T2 không hoàn thành trong giới hạn 150 phút của bộ công cụ; T4 cũng chạy trường hợp 22,6 triệu ô trong 6.851 giây.


GROMACS benchPEP, trường hợp động lực học phân tử toàn bộ lõi lớn, chạy ở tốc độ 1,243 ns/ngày trên T4 so với 1,034 trên 7875, và giải LU đạt 1.660 GFLOPS so với 1.172. y-cruncher đã tính toán 10 tỷ chữ số Pi trong 53,9 giây so với 83,7 và 25 tỷ trong 155,6 giây so với 259,6. Tính toán dày đặc nằm trong bộ nhớ đệm ưu tiên Threadripper, dẫn đầu OpenBLAS DGEMM ở mức 4.745 GFLOPS so với 3.664.


ClickHouse đã chạy 43 truy vấn ClickBench trong 3,21 giây khi nóng và 6,45 giây khi lạnh trên T4, chậm hơn 0,33 giây so với 7875 ở lần chạy nóng và nhanh hơn 0,64 giây ở lần chạy lạnh. Valkey ưu tiên các lõi nhanh hơn nhiều lõi, và 666.714 yêu cầu SET/giây của T4 xếp sau tất cả ba hệ thống so sánh, với Core Ultra 9 285K dẫn đầu ở mức 1,72 triệu — một mô hình phù hợp với kết quả một luồng của T4 và đáng cân nhắc cho các dịch vụ bị giới hạn độ trễ. Với tất cả 172 luồng được tải và bộ xử lý ở mức trung bình 87°C, T4 đã tìm kiếm 68,21 triệu nút/giây trong Stockfish, gấp 1,5 lần Pro Precision 9 T2 48 luồng và chưa bằng một nửa so với 168,27 của 7875 trên 192 luồng.


Ổ đĩa khởi động Gen5 2TB của T4 SK hynix đã cung cấp tốc độ đọc tuần tự 14.152MB/giây và ghi 10.078MB/giây, gấp khoảng hai lần ổ Gen4 trong Precision 7875 và Pro Max Tower T2, với hiệu suất ngẫu nhiên đạt đỉnh 2,31 triệu IOPS đọc và 1,83 triệu IOPS ghi. Tốc độ đọc tuần tự 20.914MB/giây của Pro Precision 9 T2 vượt quá những gì một liên kết Gen5 x4 mang lại, phù hợp với mảng phân dải ổ Samsung PM9E1 của hệ thống đó; ở đây ổ đĩa khởi động được thử nghiệm một mình, không có ổ 2TB thứ hai.


Với chế độ BIOS Hiệu suất Tối đa, Xeon 698X đạt đỉnh 93°C trong 7-Zip và 96°C trong GROMACS, và các số liệu xung nhịp là giá trị trung bình trên tất cả 172 CPU logic. Blender và Stockfish tải tất cả các luồng và giữ ở mức 2,5GHz đến 2,6GHz, cao hơn mức cơ bản 2,0GHz. GROMACS và OpenBLAS tải 64 và 86 lõi vật lý và để các luồng còn lại không hoạt động ở gần 0,8GHz, đó là lý do tại sao giá trị trung bình của chúng đọc khoảng 1,3GHz. Công việc do GPU dẫn đầu giữ cho bộ xử lý mát hơn, ở mức trung bình 61°C đến 65°C trong quá trình phục vụ LLM, tinh chỉnh và RAG, vì các bài kiểm tra đó dựa vào các card.


Kết luận


Dell Pro Precision 9 T4 được chế tạo cho công việc AI cục bộ, và card RTX PRO 6000 thứ hai là nơi nó thể hiện. Hai card Max-Q đã tăng thông lượng phục vụ tối đa lên 1,85 đến 2,02 lần trên bốn mô hình và thông lượng nhúng lên 1,92 lần, giảm thời gian một kỷ nguyên LoRA trên Ministral 3 8B từ 31,5 xuống 19,7 phút, và biến MiniMax M2.7 — một mô hình quá lớn cho một card — từ 30,3 lên 83,7 token/giây cho một người dùng. Trên gpt-oss 120B, một máy chủ mỗi GPU đạt tổng cộng 7.091 token/giây ở 64 yêu cầu, trong khi chia mô hình trên cả hai card trả về token đầu tiên của người dùng trong 719ms so với 1.189ms.


trường hợp công ty mới nhất về Đánh giá Dell Pro Precision 9 T4: 86 nhân Xeon và hai GPU RTX PRO 6000 cho các mô hình quá lớn cho một card  1


Tám kênh DDR5-6400 đã mang lại cho Xeon 698X lợi thế băng thông bộ nhớ 53% so với Threadripper PRO 9995WX. Băng thông đó đã giúp T4 đạt kết quả OpenFOAM, GROMACS benchPEP, y-cruncher và tìm kiếm HNSW nhanh hơn Precision 7875, và bộ nhớ Gen5 của nó tải các mô hình lớn nhanh hơn. Khung máy cũng xứng đáng được khen ngợi, với bố cục làm mát tốt nhất mà chúng tôi từng thấy từ Dell trong phân khúc này và khả năng truy cập bộ nguồn không cần dụng cụ.


7875 vẫn dẫn trước về kết xuất bị giới hạn bởi lõi, nén và biên dịch với tỷ lệ 18 đến 38%, và 60% trong SVT-AV1. Tốc độ mỗi lõi của Xeon kém hơn mọi hệ thống trong nhóm này, điều này thể hiện ở Valkey và các dịch vụ khác bị giới hạn luồng. Tinh chỉnh trên một GPU cũng chậm hơn trên T4, nơi kỷ nguyên LoRA mất 31,5 phút so với 27,2 trên 7875 và 22,3 trên card 600W trong Pro Max Tower T2, với mọi hệ thống kết thúc trong vòng 0,005 của cùng một mức tổn thất bị loại trừ.


Với giá khoảng 66.600 đô la theo cấu hình, T4 phù hợp với các nhóm muốn phục vụ, nhúng và tinh chỉnh mô hình tại chỗ — bao gồm cả các mô hình cần hơn 96GB bộ nhớ GPU — cùng với mô phỏng và phân tích bị giới hạn bộ nhớ trên cùng một máy. Người mua có công việc chủ yếu là kết xuất và biên dịch sẽ thấy nền tảng Threadripper nhanh hơn, và người mua cần một GPU có thể mua cùng một card trong Pro Precision 9 T2 nhỏ hơn.


Công ty TNHH Công nghệ Bắc Kinh Thiên Hưng Kết Thông
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối Sản phẩm ICT/Tích hợp Hệ thống & Dịch vụ/Giải pháp Cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh”Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!

Chi tiết liên lạc
Beijing Qianxing Jietong Technology Co., Ltd.

Người liên hệ: Ms. Sandy Yang

Tel: 13426366826

Gửi yêu cầu thông tin của bạn trực tiếp cho chúng tôi (0 / 3000)