Vietnamese
MLCommons đã chính thức công bố kết quả MLPerf Storage v3.0. Phiên bản lớn này không chỉ cập nhật các thông số kỹ thuật của benchmark mà còn định hình lại bối cảnh cạnh tranh về hiệu suất lưu trữ AI. Là benchmark lưu trữ AI được kiểm toán duy nhất trong ngành, v3.0 lần đầu tiên bao phủ toàn bộ quy trình làm việc AI, bao gồm thông lượng đào tạo, lưu trạng thái mô hình và hai khối lượng công việc suy luận mới được bổ sung: truy vấn cơ sở dữ liệu vector và xử lý bộ nhớ đệm KV. Tổng cộng có 19 tổ chức đã gửi 143 kết quả thử nghiệm, trong đó có 11 đơn vị tham gia lần đầu, bao gồm Microsoft Azure, NVIDIA, Everpure và một làn sóng các nhà cung cấp lưu trữ AI mới nổi. Đáng chú ý, các nhà cung cấp hàng đầu từ bảng xếp hạng v2.0 — DDN, Huawei, Hammerspace và Lightbits — đã không tham gia vòng này.
Benchmark này nâng cấp các bộ gia tốc mô phỏng từ H100 lên B200, nâng cao tiêu chuẩn về hiệu suất băng thông trên mỗi bộ gia tốc. Do đó, kết quả v3.0 không thể so sánh với dữ liệu v2.0. Tất cả các kết quả được liệt kê là kết quả do nhà cung cấp gửi và được MLCommons kiểm toán, không có xác minh độc lập hoặc kiểm tra lại bởi StorageReview.
Lưu trạng thái nổi bật với hiệu suất thông lượng đột phá
MLCommons nâng cấp lưu trạng thái thành một khối lượng công việc hạng nhất, vì nó đã trở thành một nút thắt cổ chai quan trọng đối với đào tạo AI quy mô lớn. Các tác vụ đào tạo quy mô lớn liên tục ghi dữ liệu trạng thái mô hình khổng lồ ở các khoảng thời gian cố định, và việc xả bộ nhớ đệm kéo dài trực tiếp gây ra tình trạng bộ gia tốc bị nhàn rỗi và làm giảm hiệu quả đào tạo tổng thể. Các chỉ số thông lượng cao nhất trong vòng này được tạo ra từ các bài kiểm tra lưu trạng thái.
Everpure (trước đây là Pure Storage), một đơn vị tham gia MLPerf lần đầu, mang lại khả năng mở rộng hiệu suất gần như tuyến tính với nền tảng FlashBlade//EXA của mình. Băng thông ghi trạng thái của nó đạt 327,6 GiB/s với 10 nút dữ liệu, 484,1 GiB/s với 15 nút và 655,6 GiB/s với 20 nút. Cấu hình 30 nút đạt kỷ lục 877,5 GiB/s thông lượng ghi và 833,0 GiB/s thông lượng đọc. Điều này đánh dấu bằng chứng benchmark được xác minh, kiểm toán đầu tiên xác nhận khả năng hiệu suất thông lượng cao mà Everpure đã tuyên bố từ lâu.
Một cột mốc quan trọng khác của ngành đến từ Azure Managed Lustre, dịch vụ lưu trữ đám mây có quy mô siêu lớn đầu tiên tham gia benchmark. Được triển khai với dung lượng 4.096 TiB và 128 máy khách, nó mang lại thông lượng ghi trạng thái 642,2 GiB/s, cho phép lưu trữ đám mây gốc cạnh tranh với các mảng lưu trữ AI chuyên dụng về hiệu suất hàng đầu.
Các bản gửi lưu trạng thái hàng đầu
|
Hệ thống
|
Băng thông ghi (GiB/s)
|
|---|---|
|
Everpure FlashBlade//EXA (30 nút dữ liệu)
|
877,5
|
|
Azure Managed Lustre (4.096TiB, 128 máy khách)
|
642,2
|
|
YanRongTech F9000X (8 máy khách)
|
313,7
|
|
Suzhou Zishan Longlin (nhiều cấu hình)
|
313,7
|
|
TuringData F9200 (8 máy khách)
|
307,1
|
|
UBIX UbiPower18000 (3 nút lưu trữ)
|
293,8
|
Bảng xếp hạng đào tạo bị thống trị bởi các nhà cung cấp mới nổi
Bảng xếp hạng khối lượng công việc đào tạo 3D U-Net bị chiếm lĩnh bởi những người chơi mới trong ngành. F9000X của YanRongTech đứng đầu danh sách với thông lượng đọc ổn định 543,9 GiB/s, hỗ trợ 99 bộ gia tốc B200 mô phỏng và đảm bảo thông lượng đào tạo cao nhất trong vòng này. Công ty khởi nghiệp cơ sở hạ tầng AI có trụ sở tại Singapore, TuringData, ra mắt benchmark với 541,5 GiB/s, cung cấp năng lượng cho 96 bộ B200 mô phỏng chỉ với ba nút lưu trữ. Cụm F9200 ba nút của nó cũng đạt thông lượng đọc 539,9 GiB/s và thông lượng ghi 307,1 GiB/s trong các bài kiểm tra lưu trạng thái quy mô 70B. UbiPower18000 của UBIX mang lại thông lượng 454,1 GiB/s với ba nút lưu trữ được trang bị ổ NVMe 16 × 15,36TB và mạng quad NDR4000. HPE là nhà cung cấp lưu trữ doanh nghiệp lâu đời duy nhất có kết quả đào tạo hợp lệ, đạt điểm 345,8 GiB/s với nền tảng K3000 của mình.
Các bản gửi đào tạo 3D U-Net hàng đầu
|
Hệ thống
|
Băng thông đọc (GiB/s)
|
Bộ gia tốc B200 mô phỏng
|
|---|---|---|
|
YanRongTech F9000X
|
543,9
|
99
|
|
TuringData F9200
|
541,5
|
96
|
|
UBIX UbiPower18000
|
454,1
|
80
|
|
Suzhou Zishan Longlin
|
433,4
|
80
|
|
FarmGPU
|
406,7
|
75
|
|
Azure Managed Lustre
|
379,1
|
70
|
Khối lượng công việc suy luận chính thức được tích hợp vào Benchmark
Hai khối lượng công việc suy luận mới được bổ sung phản ánh sự tăng trưởng nhanh chóng của nhu cầu lưu trữ AI trong thế giới thực. Bài kiểm tra bộ nhớ đệm KV đánh giá hiệu suất lưu trữ cho việc tải trạng thái chú ý vào và ra khỏi bộ nhớ trong quá trình suy luận LLM với ngữ cảnh dài, một kịch bản quan trọng được phân tích chuyên sâu trong nghiên cứu suy luận ngữ cảnh dài. Everpure một lần nữa dẫn đầu với thông lượng đọc bộ nhớ đệm KV 1.623,4 GiB/s trên triển khai FlashBlade//EXA gồm 51 máy chủ. UBIX (443,7 GiB/s) và FarmGPU (443,6 GiB/s) dẫn đầu các bản gửi bộ nhớ đệm KV quy mô tiêu chuẩn. Đối với khối lượng công việc cơ sở dữ liệu vector, hệ thống Seahorse của TTA đạt thông lượng truy vấn hàng đầu là 57.620 truy vấn mỗi giây.
v3.0 cũng bổ sung hỗ trợ lưu trữ đối tượng S3 gốc, với khoảng một phần sáu tổng số bản gửi sử dụng giao thức này. NVIDIA thống trị các mục lưu trữ đối tượng với 20 bản gửi AIStore trên môi trường OCI, AWS và GCP, đạt đỉnh 133,3 GiB/s thông lượng ghi trạng thái. Mặc dù chậm hơn các hệ thống tệp song song về tốc độ thô, việc lưu trữ đối tượng thích ứng thành công với khối lượng công việc đào tạo và lưu trạng thái đánh dấu một sự thay đổi lớn so với các benchmark trước đây, nơi các hệ thống tệp POSIX độc chiếm các khối lượng công việc AI hiệu suất cao. Ngoài ra, MLCommons giới thiệu hiệu quả năng lượng và việc sử dụng không gian tủ rack làm các chỉ số cốt lõi chính thức trong vòng này.
Phân tích hiệu suất Everpure FlashBlade//EXA
FlashBlade//EXA của Everpure dẫn đầu về lưu trạng thái cho cả mô hình tham số 405B và 1.25T, cũng như các benchmark truy xuất bộ nhớ đệm KV, thể hiện thông lượng ổn định vượt trội cho các khối lượng công việc đào tạo và suy luận AI nặng về dữ liệu.
Cấu hình được thử nghiệm bao gồm 30 lưỡi FlashBlade//EXA (120 Mô-đun DirectFlash cho xử lý siêu dữ liệu) và 30 nút dữ liệu Linux/NVMe, cung cấp khoảng 866 TB dung lượng khả dụng trong một hệ thống tệp thống nhất duy nhất. Siêu dữ liệu được truyền qua pNFS/TCP, trong khi truyền dữ liệu hàng loạt sử dụng NFSv3 qua RDMA. Trong mô phỏng lưu trạng thái mô hình 1.25T với 1.024 bộ gia tốc máy khách, thiết lập 30 nút duy trì băng thông ghi 877,52 GiB/s trong 17,74 giây và băng thông đọc 588,28 GiB/s trong 28,99 giây. Trong các bài kiểm tra suy luận bộ nhớ đệm KV, nó đạt 85.736 token/giây (Llama 3.1 8B, chỉ lưu trữ), 67.642 token/giây (mô hình 8B, lưu trữ + bộ nhớ hệ thống) và 33.403 token/giây (70B, chỉ lưu trữ).
Ý nghĩa ngành của các nhà cung cấp vắng mặt
Kết quả benchmark phản ánh cả khả năng của những người gửi và lựa chọn chiến lược của các nhà cung cấp vắng mặt. Các nhà cung cấp hàng đầu thống trị các triển khai neocloud và nhà máy AI quy mô lớn — VAST Data, WEKA và DDN — cùng với các nhà lãnh đạo v2.0 trước đây là Huawei, Hammerspace và Lightbits, đã chọn không tham gia các bản gửi v3.0. Việc vắng mặt của nhà cung cấp thường bắt nguồn từ các sắp xếp chu kỳ kỹ thuật, thời gian phát hành sản phẩm hoặc điều chỉnh chiến lược benchmark, và không tương đương với hiệu suất kém hơn.
Tuy nhiên, điều này tạo ra một sự phân kỳ rõ ràng: bảng xếp hạng benchmark được kiểm toán không còn phù hợp với các nhà lãnh đạo triển khai quy mô lớn trong thế giới thực. Người mua trong ngành phải đánh giá cả dữ liệu benchmark được kiểm toán và hồ sơ triển khai thực tế. Trang xếp hạng mảng lưu trữ doanh nghiệp cập nhật năm 2026 của StorageReview ghi lại đầy đủ sự khác biệt này với dữ liệu kết quả v3.0 hoàn chỉnh.
Công ty TNHH Công nghệ Bắc Kinh Qianxing Jietong
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối Sản phẩm ICT/Tích hợp Hệ thống & Dịch vụ/Giải pháp Cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh” Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối Sản phẩm ICT/Tích hợp Hệ thống & Dịch vụ/Giải pháp Cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh” Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!