Vietnamese
Sự kiện Advancing AI năm 2026 của AMD ưu tiên quy mô và sự cởi mở, ra mắt GPU MI455X dựa trên CDNA 5, hệ thống rack Helios 72-GPU và CPU EPYC Venice Thế hệ thứ 6. Phân tích này bao gồm nền tảng MI455X và Helios, với chi tiết CPU Venice trong một bài viết riêng.
MI455X có bộ nhớ HBM4 432GB — nhiều hơn 50% so với 288GB của Rubin/B300 của NVIDIA — băng thông bộ nhớ 23,3TB/s và hiệu năng tính toán MXFP4 đỉnh 40,26 PFLOPS. Một rack Helios đầy đủ cung cấp thông lượng FP4 2,9 exaFLOPS, tổng cộng 31TB HBM4, băng thông bộ nhớ 1,7PB/s, băng thông mở rộng quy mô 260TB/s và băng thông mở rộng kết nối 43TB/s, đảm bảo hiệu năng rack AI hàng đầu.
Các tiêu chuẩn mở xác định Helios từ đầu đến cuối, bao gồm fabric nội bộ rack UALoE, mở rộng kết nối Ultra Ethernet, định dạng độ chính xác thấp OCP và khung Open Rack Wide, cùng phần mềm ROCm mã nguồn mở hoàn toàn. Là một thiết kế tham chiếu mở, nó hỗ trợ tùy chỉnh hoàn toàn mạng, nguồn và quản lý cho các nhà cung cấp dịch vụ đám mây lớn. Các nhà triển khai chính bao gồm OpenAI, Meta, Anthropic, Microsoft và Oracle.
AMD Instinct MI455X: GPU hàng đầu CDNA 5
Được đóng gói bằng TSMC CoWoS-L, MI455X với 320 tỷ bóng bán dẫn tích hợp tám die XCD N2, hai die I/O N3, hai die Fabric & Cache (FCD) N3 và mười hai ngăn xếp HBM4. Giao diện HBM4 2048-bit mỗi ngăn xếp cung cấp băng thông 23,3TB/s, kết hợp với bộ nhớ đệm L2 FCD kép 96MB đạt thông lượng 54TB/s.
Khả năng I/O bao gồm băng thông mở rộng quy mô hai chiều UALoE 3,6TB/s, liên kết CPU-GPU Infinity Fabric 256GB/s và khả năng mở rộng kết nối linh hoạt thông qua hai cổng PCIe Gen6 x16 hoặc ba AI-NIC. Nó vượt trội hơn các GPU AMD thế hệ trước và Rubin/B300 của NVIDIA trên hầu hết các chỉ số chính.
So sánh thông số kỹ thuật chính
|
Thông số kỹ thuật
|
AMD MI455X
|
NVIDIA Rubin
|
AMD MI355X
|
NVIDIA B300
|
|
Kiến trúc
|
CDNA 5
|
Rubin
|
CDNA 4
|
Blackwell Ultra
|
|
Bóng bán dẫn
|
320B
|
336B
|
185B
|
208B
|
|
Dung lượng HBM
|
432GB HBM4
|
288GB HBM4
|
288GB HBM3E
|
288GB HBM3E
|
|
Băng thông HBM
|
23.3TB/s
|
22TB/s
|
8TB/s
|
8TB/s
|
|
Mở rộng quy mô mỗi GPU
|
3.6TB/s
|
3.6TB/s
|
1.08TB/s
|
1.8TB/s
|
|
Mở rộng kết nối mỗi GPU
|
2400 Gb/s
|
1600 Gb/s
|
400 Gb/s
|
800 Gb/s
|
|
Liên kết CPU-GPU
|
Infinity Fabric 256GB/s
|
C2C 1.8TB/s
|
PCIe 5
|
C2C 900GB/s
|
MI455X dẫn đầu đối thủ về dung lượng HBM, băng thông bộ nhớ và thông lượng mở rộng kết nối, ngang bằng hiệu suất mở rộng quy mô của Rubin thông qua UALoE để thu hẹp khoảng cách NVLink lâu đời của NVIDIA. Liên kết CPU-GPU C2C mạnh mẽ hơn của NVIDIA vẫn là lợi thế phần cứng chính của nó, thúc đẩy sự khác biệt nền tảng cốt lõi.
So sánh thông lượng tính toán
|
Định dạng độ chính xác
|
AMD MI455X
|
NVIDIA Rubin
|
AMD MI355X
|
NVIDIA B300
|
|
MXFP4 / NVFP4
|
40.26 PF
|
35 PF
|
10.1 PF
|
15 PF
|
|
MXFP6 / FP6
|
20.13 PF
|
17.5 PF
|
10.1 PF
|
5 PF
|
|
MXFP8 / FP8
|
20.13 PF
|
17.5 PF
|
5 PF
|
5 PF
|
|
FP16 / BF16
|
5.03 PF
|
4 PF
|
2.5 PF
|
2.5 PF
|
|
FP32
|
315 TF
|
130 TF
|
157.3 TF
|
75 TF
|
So với MI355X, MI455X tăng gấp bốn lần thông lượng độ chính xác thấp và gấp đôi hiệu suất độ chính xác tiêu chuẩn. Nó vượt trội hơn B300 trên tất cả các định dạng, dẫn trước Rubin 15% về độ chính xác thấp và 26% về FP16/BF16, đồng thời mang lại lợi thế FP32 gấp 2,4 lần, rất quan trọng đối với trọng số AI có độ chính xác cao và khối lượng công việc HPC.
Nâng cấp kiến trúc CDNA 5
Giữ nguyên 8 XCD và 256 đơn vị thực thi của CDNA 4, CDNA 5 đã cải tổ cấu trúc tính toán bên trong. Mỗi XCD được chia thành hai Shader Engine với 16 Work Group Processor (WGP) hoạt động. Thực thi Wave32 gốc thay thế Wave64, giảm thiểu hình phạt phân kỳ, giảm áp lực thanh ghi và tăng gấp đôi sóng đồng thời mỗi WGP lên 64 để che giấu độ trễ bộ nhớ tốt hơn.
Các đơn vị SIMD được thiết kế lại cho phép thực thi song song, tăng tốc BF16 gốc và các lệnh chuyển đổi tensor mới, với thông lượng siêu việt tăng gấp đôi và hỗ trợ tanh gốc để tăng hiệu suất transformer. Bộ di chuyển dữ liệu tensor 5D mới trên mỗi WGP hỗ trợ truyền dữ liệu tensor không đồng bộ, ngang bằng với khả năng của bộ tăng tốc tensor chuyên dụng của NVIDIA.
Cấu trúc bộ nhớ được tối ưu hóa
CDNA 5 đã loại bỏ bộ nhớ đệm L2 riêng biệt trên mỗi XCD và bộ nhớ đệm Infinity toàn cục, áp dụng bộ nhớ đệm L2 dựa trên FCD kép 96MB với băng thông tổng thể cao gấp 3 lần so với CDNA 4. Bộ nhớ đệm nhất quán hợp nhất tăng tốc các thao tác nguyên tử của thiết bị và cung cấp băng thông đọc hiệu quả gấp 4 lần thông qua truyền đa hướng tensor.
Bộ nhớ lưu trữ trên chip mỗi WGP tăng gấp đôi lên 384KB, cho phép lưu trữ toàn bộ FlashAttention trong bộ nhớ và kernel MoE. Các ngăn xếp HBM4 12×2048-bit được nâng cấp giúp tăng đáng kể dung lượng và băng thông, tạo nền tảng cho lợi thế hiệu suất AI của GPU.
Phân vùng & ảo hóa GPU
Thiết kế FCD kép hỗ trợ các chế độ NUMA NPS linh hoạt: bộ nhớ GPU đầy đủ hợp nhất thông qua NPS1, hoặc hai miền độ trễ thấp riêng biệt với bộ nhớ đệm L2 riêng thông qua NPS2. Phân đoạn không gian có thể cấu hình 1/2/4/8 chiều và ảo hóa SR-IOV cho phép triển khai GPU đa người dùng, cô lập phần cứng, chi tiết.
Nền tảng quy mô rack AMD Helios
Helios sử dụng khung Open Rack Wide OCP do AMD đồng phát triển, chứa 72 GPU MI455X trên 18 khay tính toán và 6 khay chuyển mạch. Rack làm mát bằng chất lỏng tiêu thụ 225–245kW, với cáp kết nối phía sau để bảo trì thay thế nóng không cần dụng cụ.
Thiết kế khay tính toán
Mỗi khay ghép nối 4 GPU MI455X với CPU Venice SP7 96 lõi 5GHz để kết nối CPU-GPU nhất quán theo tỷ lệ 1:4 thông qua Infinity Fabric. Phần cứng SP7 có thể thay thế hỗ trợ nâng cấp lên CPU Venice-X tiêu chuẩn hoặc tối ưu hóa bộ nhớ đệm 256 lõi, với tối đa 4TB DRAM và băng thông bộ nhớ 1,6TB/s mỗi khay.
Ba mạng độc lập phục vụ mỗi khay: DPU Salina 400G cho truy cập trung tâm dữ liệu phía trước; 3 NIC Vulcano 800G cho mỗi GPU với băng thông mở rộng kết nối bỏ qua CPU 2400Gb/s; và 36 liên kết UALoE cho mỗi GPU với băng thông mở rộng quy mô chia sẻ toàn bộ rack 3,6TB/s.
Fabric chuyển mạch & độ tin cậy
Helios sử dụng 12 bộ chuyển mạch Broadcom Tomahawk 6 — một phần ba số lượng NVSwitch của NVIDIA — cung cấp băng thông mở rộng quy mô 3,6TB/s đầy đủ cho mỗi GPU thông qua Ethernet L2 tiêu chuẩn. Cấu trúc liên kết tất cả-với-tất cả một tầng đảm bảo độ trễ thấp đồng nhất trên tất cả các GPU.
Fabric 12 lớp hỗ trợ suy giảm hiệu suất dần dần và định tuyến lại lưu lượng tự động trong trường hợp lỗi phần cứng. Các Pod ảo (vPod) được cô lập phần cứng, mã hóa AES-256 cho phép phân vùng đa người dùng linh hoạt, giới hạn lỗi trong các pod riêng lẻ và hỗ trợ các chế độ triển khai từ đào tạo toàn bộ rack đến phân chia GPU chi tiết.
Ngăn xếp quản lý
AMD Fabric Manager (AFM) cung cấp cấp phép rack không cần chạm, điều phối vPod và phục hồi lỗi thông qua các bộ điều khiển phân tán dự phòng. Được xây dựng trên kiến trúc Kubernetes và hệ điều hành SONiC mở với hỗ trợ UALoE được tích hợp, nó cung cấp khả năng quan sát đầy đủ và tích hợp API tiêu chuẩn với các bộ lập lịch cụm.
Helios so với NVIDIA Vera Rubin NVL72
Helios vượt trội hơn NVL72 với tổng HBM cao hơn 50% (31TB so với 20,7TB), băng thông mở rộng kết nối mỗi GPU nhanh hơn 50% và thông lượng mở rộng quy mô tương đương với ít thành phần chuyển mạch hơn. Các thử nghiệm của AMD ghi nhận thông lượng token mỗi GPU cao hơn 10–15% và hiệu quả token trên mỗi đô la tốt hơn tới 30% trên các khối lượng công việc Kimi K2.
Các đánh đổi kiến trúc xác định hai nền tảng: NIC GPU-direct của Helios loại bỏ độ trễ chuyển tiếp CPU, trong khi NIC của NVIDIA dựa vào liên kết C2C CPU Vera, gây ra tranh chấp băng thông. NVIDIA dẫn đầu về GPUDirect Storage gốc và phần mềm DOCA thân thiện với người dùng, trong khi DPU lập trình P4 của AMD ưu tiên phát triển mạng tùy chỉnh cho các nhà cung cấp dịch vụ đám mây lớn.
Lợi thế lớn nhất của Helios là khả năng tùy chỉnh hoàn toàn cho khách hàng trên CPU, bộ nhớ, mạng và ngân sách năng lượng, so với cấu hình siêu chip cố định của NVIDIA.
Hệ sinh thái phần mềm DPU & ROCm.AI
DPU Salina 400G cung cấp SDN có thể lập trình, giảm tải bảo mật và ảo hóa NVMe-over-Fabrics. Khả năng giảm tải KV cache độc đáo của nó bù đắp cho việc thiếu GPUDirect Storage gốc bằng cách tràn bộ nhớ đệm AI dư thừa ra bộ nhớ ngoài với tốc độ đường truyền.
Ra mắt vào tháng 8, ROCm.AI mang lại hiệu suất suy luận gấp 3,3 lần và đào tạo gấp 2,4 lần so với ROCm 7 thông qua các công cụ dành cho nhà phát triển AI, tối ưu hóa Hyperloom tự động và điều khiển cấp thấp FlyDSL. Các số liệu thực tế được công bố của AMD đạt 50% thông lượng FP4 đỉnh của MI455X.
MXFP4 và NVFP4 áp dụng các cơ chế mở rộng khác nhau, làm cho việc so sánh FLOPS đỉnh của nhà cung cấp kém tin cậy hơn so với thông lượng token ở cấp ứng dụng, với nhiều không gian cho việc tối ưu hóa ROCm hơn trong các triển khai sản xuất.
Kết luận
Helios khẳng định AMD là đối thủ cạnh tranh trực tiếp với các hệ thống rack AI hàng đầu của NVIDIA, cung cấp dung lượng HBM hàng đầu ngành, mạng mở rộng kết nối vượt trội, phần cứng mở hiệu quả về chi phí và khả năng tùy chỉnh hoàn toàn cho khách hàng. Được hỗ trợ bởi sự chấp nhận của các nhà cung cấp dịch vụ đám mây lớn, lộ trình GPU rõ ràng cho năm 2027–2028 và phần mềm ROCm ngày càng hoàn thiện, AMD đã xây dựng cơ sở hạ tầng AI đầu cuối cạnh tranh để thách thức sự thống trị lâu đời của NVIDIA trong quy mô rack.
Công ty TNHH Công nghệ Qianxing Jietong Bắc Kinh
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối sản phẩm ICT/Tích hợp hệ thống & Dịch vụ/Giải pháp hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh” Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối sản phẩm ICT/Tích hợp hệ thống & Dịch vụ/Giải pháp hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh” Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!