tin tức công ty về B

Huawei đã công bố OceanStor M900, một cụm lưu trữ all-flash có khả năng mở rộng, cung cấp bộ nhớ đệm KV lên đến 64 PB cho các SuperPoD Atlas 960 của mình; các bộ tăng tốc AI quy mô rack tương đương với SuperPOD của Nvidia.

Nvidia đã định nghĩa một thiết kế tham chiếu tích hợp GPU, NIC BlueField, switch Spectrum-X và phần mềm AI với các hệ thống lưu trữ, hỗ trợ GPUDirect, RDMA và mở rộng bộ nhớ đệm KV thông qua phần mềm Dynamo và sơ đồ CMX. Kiến trúc đa cấp này sử dụng bộ nhớ băng thông cao (HBM) của GPU làm cấp cao nhất, sau đó là DRAM của các máy chủ X86 tương ứng làm cấp 2, SSD cục bộ của máy chủ làm L3 và SSD NVMe được kết nối với NIC BlueField-4 thông minh trong máy chủ lưu trữ flash đóng vai trò là L3.5. Các cấp này có thể truy cập HBM của GPU chỉ trong một lần nhảy mạng với độ trễ micro giây.

Huawei hiện đang thách thức thiết kế SuperPOD của Nvidia với SuperPOD của riêng mình được xây dựng cho các trung tâm dữ liệu AI siêu quy mô. Các hệ thống nhắm mục tiêu các mô hình 10 nghìn tỷ tham số và cửa sổ ngữ cảnh hơn một triệu token, có nghĩa là bộ nhớ băng thông cao của một bộ tăng tốc không thể chứa tất cả các token khóa-giá trị cần thiết, đòi hỏi một cơ chế lưu trữ đệm.

Công ty cho biết một SuperPoD Atlas 960E có thể mở rộng lên tới 4.096 NPU (Neural Processing Unit), cung cấp hiệu suất tính toán FP8 là 8 EFLOPS, dung lượng HBM lên tới 1 petabyte và một nhóm bộ nhớ hợp nhất 256 TB. Việc triển khai 5.500 đơn vị Hi-ONE được trang bị UnifiedBus (NPO) giúp giảm tiêu thụ điện năng hơn 550 kilowatt so với 48.000 mô-đun quang 800G truyền thống cần thiết để kết nối tất cả các NPU. Nó cũng tăng gấp đôi thời gian hoạt động không lỗi của hệ thống và đạt được 99,8% khả dụng của hệ thống.

Huawei OceanStor M900
SuperPoD áp dụng khung lưu trữ đệm KV đa cấp, trong đó M900 cung cấp bộ nhớ đệm KV quy mô petabyte cho lớp L3.5. Mỗi cụm cung cấp dung lượng bộ nhớ đệm KV L3.5 chia sẻ lên tới 4 PB và băng thông tổng hợp 40 TB/giây qua mạng quang cho lớp này, cung cấp dung lượng bộ nhớ đệm KV nhiều terabyte cho mỗi NPU. Huawei tuyên bố rằng trong các tác vụ suy luận AI điển hình, kiến trúc này tăng gấp đôi thông lượng token của cụm suy luận và giảm một nửa thời gian đến token đầu tiên (TTFT).

Công ty lưu ý băng thông 40 TB/giây cao hơn 1,5 lần so với các giải pháp cạnh tranh, mà không nêu rõ tên nhà cung cấp. Nó được hiểu là thường đề cập đến các hệ thống DDN, Everpure, IBM (Storage Scale), MinIO và VAST Data có băng thông cụm dao động từ 10-25 TB/giây.

M900 có thiết kế tích hợp kết hợp CPU, bộ điều khiển mạng và bộ điều khiển NAND trong một đơn vị, cho phép NPU SuperPoD thiết lập liên kết trực tiếp, một lần nhảy đến SSD. Điều này làm giảm độ trễ truy cập từ mili giây xuống khoảng 60 micro giây.

David Wang, Phó Chủ tịch Hội đồng Quản trị và Chủ tịch luân phiên của Huawei, cho biết: "OceanStor M900 cũng sử dụng phương tiện lai và thuật toán lưu giữ được tối ưu hóa, kéo dài tuổi thọ đọc/ghi SSD lên 16 lần. Điều này đảm bảo tỷ lệ truy cập bộ nhớ đệm KV cao hơn cùng với sự ổn định và độ tin cậy lâu dài ngay từ đầu."

Chi tiết hơn, Huawei cho biết M900 có công nghệ lưu trữ thích ứng nhận biết KV, dự đoán tuổi thọ và giá trị dự kiến của từng phân đoạn dữ liệu bộ nhớ đệm KV. Dựa trên các dự đoán này, nó lên lịch và phân phối dữ liệu trên các cấp phương tiện khác nhau: bộ nhớ trên chip, DRAM và SSD. Huawei cho biết chiến lược đặt và lưu giữ được tối ưu hóa này cho phép SSD duy trì tới 24 lần ghi ổ mỗi ngày (DWPD), một con số cao đáng chú ý, và tăng cường độ bền SSD lên 16 lần, hỗ trợ ba năm hoạt động ổn định với ít lần thay ổ hơn.

Vẫn còn quá sớm để Huawei phát hành bảng dữ liệu và các buổi giới thiệu kỹ thuật của M900, vì vậy các chi tiết như kích thước đơn vị rack của nút, bộ điều khiển, số lượng và dung lượng ổ đĩa, số lượng nút cụm và các thông số kỹ thuật khác vẫn chưa có sẵn.

Chú thích NPU
NPU là Đơn vị Xử lý Thần kinh Ascend của Huawei, mà Huawei cho biết được xây dựng nguyên bản cho AI (không giống như GPU có nguồn gốc từ chip đồ họa). Chúng áp dụng kiến trúc Da Vinci của Huawei với lõi Cube (ma trận) và lõi Vector, và hỗ trợ các định dạng có độ chính xác thấp bao gồm FP8 và FP4 để tăng tốc suy luận và huấn luyện cho các mô hình lớn. Khi được lắp ráp thành các hệ thống khổng lồ thông qua kết nối tất cả-quang UnifiedBus của Huawei, chúng có thể mở rộng lên hàng nghìn hoặc thậm chí hàng trăm nghìn NPU hoạt động như một máy logic duy nhất. Các sản phẩm gần đây như Atlas 350 (sử dụng Ascend 950PR) và SuperPOD Atlas 960 sắp ra mắt được định vị là giải pháp thay thế cho GPU Nvidia trong thị trường Trung Quốc.

Công ty TNHH Công nghệ Bắc Kinh Qianxing Jietong
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối Sản phẩm ICT/Tích hợp Hệ thống & Dịch vụ/Giải pháp Cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
"Sử dụng Công nghệ để Xây dựng Thế giới Thông minh"Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!