AMD đã ra mắt ROCm 10 để đánh dấu kỷ niệm 10 năm của bộ đống phần mềm mở, cùng với sự sẵn có chung của ROCm.AI cho các nhà phát triển.AI là một nền tảng phát triển bản địa AI được thiết kế để tăng tốc xây dựng, triển khai và tối ưu hóa khối lượng công việc trên phần cứng AMD.

ROCm.AI thống nhất ba thành phần: ROCm Hyperloom, AMD Skills và ROCm CLI, cung cấp chuyên môn cụ thể của AMD và tối ưu hóa dựa trên đại lý vào các chuỗi công cụ nhà phát triển hiện có.AMD báo cáo rằng trên phần cứng tương đương, Các hệ thống được trang bị ROCm.AI cung cấp hiệu suất suy luận cao hơn trung bình 3,3 lần và hiệu suất đào tạo tốt hơn 2,4 lần so với ROCm 7 thông qua các nhân tối ưu hóa AI, xử lý bộ nhớ và lập kế hoạch.

Tối ưu hóa suy luận tự trịROCm Hyperloom hoạt động như một công cụ đại lý cho tối ưu hóa suy luận từ đầu đến cuối bao gồm mã chủ và lõi GPU. Nó mô tả khối lượng công việc, xác định các nút thắt, khám phá các con đường tối ưu hóa,áp dụng các chỉnh sửa mã nhắm mục tiêu, sau đó so sánh và xác nhận tính chính xác.

Trong ROCm 10, Hyperloom mở rộng hỗ trợ cho GPU Instinct của AMD và thêm khả năng tương thích với vLLM và khung suy luận SGLang.Cơ sở mã Triton và FlyDSLHyperloom tạo ra các báo cáo liệt kê các thay đổi được đề xuất cùng với dự báo hiệu suất. Nó chạy độc lập hoặc tích hợp với AMD Skills.

Chuyên môn được sắp xếp cho các đại lý mã hóa AIAMD Skills tiêm kiến thức kỹ thuật và quy trình làm việc của AMD được xác nhận vào các đại lý mã hóa AI bao gồm Claude Code, Cursor và Codex, cung cấp hướng dẫn cụ thể của phần cứng mà không cần chuyển ngữ cảnh.

ROCm 10 mở rộng danh mục Kỹ năng thành ba nhóm: luồng công việc AI khách hàng địa phương, luồng công việc định hướng chẩn đoán chéo và luồng công việc phía máy chủ cho GPU Instinct và CPU EPYC bao gồm phục vụ,phân tích hồ sơ và hiệu suất. Các khả năng tiên tiến AI hiện có sẵn thông qua các thị trường đại lý và danh mục nguồn mở GitHub,với mỗi kỹ năng trải qua thử nghiệm cấu trúc và chức năng trước khi phát hành.

Quản lý lệnh thống nhấtROCm CLI, hiện đang trong bản xem trước công nghệ cho ROCm.AI, cung cấp một bề mặt dòng lệnh nhất quán để cung cấp, quản lý và thực hiện khối lượng công việc AI trên phần cứng AMD.,thông qua các đại lý AI hoặc bên trong đường ống CI để kiểm tra hệ thống, quản lý vòng đời ROCm, phục vụ mô hình, chẩn đoán và kiểm soát thời gian chạy.

Được phân phối dưới dạng các tập tin nhị phân Windows và Linux được xây dựng sẵn mà không có sự phụ thuộc ROCm hiện có, nó hỗ trợ nhiều môi trường chạy được quản lý cạnh nhau bao gồm kích hoạt và quay lại,cộng với dàn nhạc phục vụ mô hình tích hợp. Adapter hiện tại bao gồm Lemonade trên phần cứng khách hàng và vLLM cho việc triển khai Instinct.

Được đóng gói với CLI là ROCm Console (bên trong tiêu thụ năng lượng và token-per-watt trên hỗ trợ Instinct phần cứngBản xem trước cung cấp hoạt động không xác định phiên bản bắt đầu từ ROCm 7.13Đề xuất hỗ trợ ROCm 10

ROCm 10 cập nhật ngăn xếp rộng hơnCác công cụ phát triển này nằm trên đỉnh của ngăn xếp ROCm 10 được cải tiến có một Core SDK mô-đun hơn, cùng với các thư viện, trình biên dịch, tích hợp khung, hỗ trợ mô hình,cải tiến điều chỉnh và mở rộng khả năng phần cứng.

Tham khảo cấu hình thử nghiệm

Công ty công nghệ Bắc Kinh Qianxing Jietong Co., Ltd.
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!