Vietnamese
AMD đã chính thức phát hành Instinct MI350P, một bộ tăng tốc PCIe mới được thiết kế riêng cho người dùng doanh nghiệp đang tìm kiếm khả năng suy luận AI tại chỗ mà không cần đại tu cơ sở hạ tầng trung tâm dữ liệu hiện có của họ. Với hệ số dạng hai khe cắm, chiều cao đầy đủ và chiều dài đầy đủ, card đồ họa này hoàn toàn tương thích với các máy chủ làm mát bằng không khí thông thường. Nó cũng đánh dấu lần đầu tiên AMD phát hành chip Instinct thế hệ hiện tại được thiết kế cho các khe cắm máy chủ tiêu chuẩn trong gần bốn năm.
Bản năng AMD MI350P
Dòng sản phẩm Bản năng dựa trên PCIe của AMD vẫn trì trệ sau khi ra mắt MI210 vào đầu năm 2022. Tất cả các thế hệ tiếp theo, bao gồm MI300X, MI325X và MI350X định dạng OAM, đều sử dụng các mô-đun ổ cắm OAM gắn trên ván chân tường phổ thông chuyên dụng. Các mô-đun này yêu cầu vỏ tùy chỉnh với khả năng cung cấp điện và luồng không khí mạnh mẽ để hỗ trợ tới tám máy gia tốc loại 1.000W trong một khay duy nhất. Kiến trúc phần cứng như vậy phù hợp với các nhà cung cấp đám mây siêu quy mô mua số lượng lớn giá đỡ GPU, tuy nhiên nó không phù hợp với các doanh nghiệp thông thường không muốn hoặc không thể triển khai các giá đỡ AI riêng biệt cho các tác vụ suy luận tại chỗ. MI350P lấp đầy chính xác khoảng trống thị trường này. Hiện tại, NVIDIA thiếu đối thủ cạnh tranh PCIe cấp máy chủ cao cấp trong phân khúc này, khiến AMD tạm thời độc quyền trên thị trường.
So sánh phần cứng: MI350P so với MI350X OAM
MI350P không phải là biến thể rút gọn của MI350X; AMD đã thiết kế một con chip được sắp xếp hợp lý độc lập cho mẫu máy mới này. MI350X tích hợp hai khuôn I/O kết hợp với tám khuôn phức hợp tăng tốc (XCD), cung cấp tổng cộng 256 đơn vị điện toán. Ngược lại, MI350P chứa một khuôn I/O và bốn XCD, tương đương với 128 đơn vị tính toán. Mặc dù giảm một nửa quy mô silicon, nó vẫn duy trì tần số xung nhịp cao nhất 2,2 GHz giống hệt như đối tác cấp cao hơn. Cấu hình bộ nhớ tuân theo thông số kỹ thuật đã bị hạ cấp tương tự: bốn ngăn xếp HBM3E (so với tám), bus bộ nhớ 4.096-bit (giảm từ 8.192-bit), cùng với dung lượng bộ nhớ 144GB và băng thông 4 TB/s, so với thông lượng 288GB và 8 TB/s của MI350X.
Kiến trúc AMD Instinct MI350P
Thông lượng tính toán cao điểm cũng giảm một nửa. MI350P đạt 4.600 MXFP4 TFLOPS so với 9,2 PFLOPS của MI350X, cùng với 2.300 FP8 TFLOPS so với 4,6 PFLOPS của mẫu cao cấp. Các số liệu hiệu suất cho BF16, FP16 và các tiêu chuẩn chính xác khác cũng có mức giảm theo tỷ lệ tương tự. Đáng chú ý, AMD đã công bố cả dữ liệu hiệu suất cao nhất và duy trì trong thế giới thực để minh bạch. Thẻ cung cấp 2.299 TFLOPS theo MXFP4, 1.529 TFLOPS theo FP8 và 713 TFLOPS theo BF16. Những số liệu thực tế này phản ánh công suất thực tế trong phạm vi công suất 600W, trong đó các giới hạn về công suất và băng thông bộ nhớ chắc chắn sẽ làm giảm hiệu suất cao nhất về mặt lý thuyết.
Nhóm biên tập trước đây đã đánh giá nền tảng MI350X thông qua chương trình Khởi động của Supermicro và nhận thấy khả năng xử lý khối lượng công việc suy luận mạnh mẽ của nó. Nhóm đang mong muốn tiến hành thử nghiệm thực tế MI350P, phân tích cách thức hoạt động của bộ tăng tốc hệ số dạng PCIe này trong khung máy chủ thông thường tiêu chuẩn.
MI350P không có tính năng giảm 50% năng lượng mặc dù quy mô silicon đã giảm một nửa. Nó mang mức công suất TBP 600W, tương đương với khoảng 60% giới hạn 1000W của MI350X. Công suất cực đại này chạm đến giới hạn trên của thông số kỹ thuật PCIe CEM, chạy card ở ngưỡng nhiệt tối đa của khe cắm. Chế độ hoạt động giảm 450W có sẵn cho các máy chủ không đủ khả năng làm mát, kèm theo việc cắt giảm hiệu suất vừa phải. Nằm trong cùng một khung nguồn, MI350P cạnh tranh trực tiếp với Máy chủ H200 NVL và RTX Pro 6000 của NVIDIA để mua sắm cho doanh nghiệp.
Không giống như H200 của NVIDIA có kết nối tốc độ cao NVL4, MI350P vô hiệu hóa khả năng hiển thị Infinity Fabric. Tất cả việc truyền dữ liệu giữa các GPU bị giới hạn ở băng thông 128 GB/s của PCIe Gen5 x16.
Triển khai làm mát bằng không khí tám GPU
Là thẻ FHFL PCIe hai khe cắm tiêu chuẩn, MI350P tương thích với các máy chủ doanh nghiệp hiện có. Các OEM lớn cung cấp các mẫu máy làm mát bằng không khí 8 GPU dày đặc, bao gồm Dell PowerEdge XE7740 và HPE ProLiant DL380a Gen12 đã được đánh giá trước đó. Được tối ưu hóa cho bộ tăng tốc 600W, các nền tảng này không yêu cầu giá đỡ tùy chỉnh, làm mát bằng chất lỏng hoặc ván chân tường OAM.
Cấu hình MI350P tám thẻ cung cấp băng thông tổng hợp 1.152GB HBM3E và 32 TB/s, đủ để lưu trữ các mô hình nghìn tỷ thông số với độ chính xác MXFP4 trong một khung máy làm mát bằng không khí. Tuy nhiên, nó hy sinh các loại vải co giãn chuyên dụng. Trong khi MI350X sử dụng Infinity Fabric để liên lạc nhanh giữa các mô-đun thì MI350P chỉ dựa vào PCIe Gen5. Kiến trúc này phù hợp với tính song song tensor-nút cục bộ và tính song song dữ liệu giữa các nút để suy luận, trong khi MI350X dựa trên OAM vẫn vượt trội đối với các nhiệm vụ đào tạo AI đòi hỏi nhiều băng thông.
Định dạng chính xác
MI350P kế thừa tất cả các định dạng chính xác từ MI350X mà không cần nâng cấp. Các loại chia tỷ lệ khối OCP bao gồm MXFP4, MXFP6 và MXFP8 đã trở thành xu hướng chủ đạo để phát triển mô hình AI, cho phép đào tạo với độ chính xác thấp với chất lượng suy giảm không đáng kể. MXFP4 mang lại tốc độ gấp đôi so với FP8 và gấp bốn lần thông lượng của BF16. Các trường hợp trong thế giới thực như OpenAI gpt-oss và Kimi K2.6 chứng minh giá trị của lượng tử hóa bit thấp nguyên gốc. Do trọng lượng MXFP4 và INT4 chỉ chiếm 25% dung lượng bộ nhớ BF16 nên các mô hình nghìn tỷ tham số có thể được triển khai bên trong một máy chủ 8 GPU duy nhất, loại bỏ các cụm nhiều nút rườm rà cho các doanh nghiệp tại chỗ.
Dòng dưới cùng
Hầu hết các doanh nghiệp AI tại chỗ đều bị hạn chế bởi sức mạnh, khả năng làm mát, mật độ và ngân sách thay vì khả năng tính toán thô. MI350P dạng thả vào giúp giảm bớt các rào cản triển khai này một cách hiệu quả. Với việc NVIDIA thiếu GPU máy chủ PCIe hàng đầu trong phân khúc này, AMD vẫn giữ được lợi thế cạnh tranh rõ ràng ở thời điểm hiện tại. Thông tin chi tiết có sẵn trên trang web Bản năng chính thức của AMD.
Công ty TNHH Công nghệ Qianxing Jietong Bắc Kinh
Sandy Yang/Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối sản phẩm CNTT/Tích hợp hệ thống & Dịch vụ/Giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu thế giới để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng công nghệ để xây dựng một thế giới thông minh”Nhà cung cấp dịch vụ sản phẩm CNTT đáng tin cậy của bạn!
Sandy Yang/Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Trọng tâm kinh doanh:
Phân phối sản phẩm CNTT/Tích hợp hệ thống & Dịch vụ/Giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu thế giới để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng công nghệ để xây dựng một thế giới thông minh”Nhà cung cấp dịch vụ sản phẩm CNTT đáng tin cậy của bạn!