Equinix đã mở rộng quan hệ đối tác NVIDIA và hợp tác mới với Together AI để ra mắt Equinix Inference Exchange. Được xây dựng như một kiến trúc suy luận AI phân tán cấp doanh nghiệp, nền tảng này di chuyển các khối lượng công việc tính toán đến gần hơn với các kho dữ liệu cốt lõi, người dùng cuối và các ứng dụng vận hành. Được công bố cùng với Equinix Fabric One tại Equinix Horizon, nền tảng này kết hợp phần cứng doanh nghiệp NVIDIA, nền tảng mô hình mã nguồn mở của Together AI và cơ sở hạ tầng kết nối toàn cầu của Equinix để giải quyết các vấn đề về độ trễ, chủ quyền dữ liệu và tắc nghẽn mạng.

Giải quyết Suy luận Phân tán và Trọng lực Dữ liệu Khi AI doanh nghiệp chuyển từ nguyên mẫu sang sản xuất thông lượng cao, vị trí suy luận sẽ định hình tổng chi phí, độ trễ phản hồi và tuân thủ. Tuy nhiên, việc vận hành cơ sở hạ tầng phân tán trên các môi trường không đồng nhất mang lại chi phí vận hành và độ phức tạp mạng.

Equinix giảm thiểu những điểm khó khăn này bằng cách sử dụng hơn 280 trung tâm dữ liệu trên 77 khu vực đô thị, 230 điểm truy cập đám mây và hệ sinh thái hơn 10.500 doanh nghiệp được kết nối. Tám trong số mười nhà cung cấp mô hình AI hàng đầu và chín trong số mười đám mây AI hàng đầu đã có mặt tại các địa điểm của Equinix, biến nền tảng này thành một lớp tổng hợp trung lập cho các đường ống AI phân tán.

Kiến trúc và Tích hợp Ngăn xếp Equinix Inference Exchange bao gồm ba lớp: cơ sở hạ tầng vật lý, tính toán và phần mềm. Equinix vận hành nền tảng kết nối vật lý cơ bản bao gồm cung cấp điện, làm mát bằng chất lỏng tiên tiến, vận hành cơ sở liên tục, cùng với kết nối dữ liệu lai thông qua Equinix Fabric. NVIDIA cung cấp lớp tính toán và xác thực với phần cứng AI doanh nghiệp được tối ưu hóa cho thông lượng token cao và chi phí suy luận trên mỗi truy vấn thấp hơn. Together AI cung cấp lớp dịch vụ suy luận hỗ trợ hơn 200 mô hình mã nguồn mở. Nó hỗ trợ các thiết lập đa người dùng được chia sẻ để tăng hiệu quả tính toán và các triển khai đơn người dùng riêng biệt cho các khối lượng công việc yêu cầu dung lượng chuyên dụng.

Lưu lượng truy cập được định tuyến qua Equinix Fabric làm giảm thời gian đến token đầu tiên (TTFT) của người dùng khu vực và tạo các liên kết ngang hàng riêng tư giữa bộ nhớ tại chỗ và các điểm cuối mô hình.

Mục tiêu Triển khai Doanh nghiệp và Tính khả dụng Ba chế độ triển khai cốt lõi được hỗ trợ. Suy luận biên đô thị chạy các mô hình trong các trung tâm đô thị địa phương để có phản hồi API độ trễ thấp cùng với quản lý tập trung và kết nối riêng. Di chuyển mô hình mã nguồn mở cung cấp một lộ trình chuyển đổi mượt mà khỏi các API độc quyền đóng sang các mô hình nền tảng mở, cắt giảm sự phụ thuộc vào nhà cung cấp đồng thời tái sử dụng các mạng hiện có. Đối với các trường hợp sử dụng AI chủ quyền được quy định, thiết kế phân tán của nó cho phép các doanh nghiệp giới hạn suy luận và xử lý dữ liệu trong các ranh giới địa lý được xác định để đáp ứng các quy tắc cư trú và quản trị dữ liệu nghiêm ngặt.

Các giám đốc điều hành từ Equinix, NVIDIA và Together AI tuyên bố rằng sự tích hợp này mang lại một mạng suy luận thông lượng cao, độc lập với nhà cung cấp, cân bằng hiệu suất tính toán và sự linh hoạt trong vận hành.

Equinix Inference Exchange sẽ có sẵn cho doanh nghiệp nói chung vào Q1 năm 2027.

Công ty TNHH Công nghệ Bắc Kinh Thiên Hưng Giai Thông
Sandy Yang/Giám đốc Chiến lược Toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Trọng tâm Kinh doanh:
Phân phối Sản phẩm ICT/Tích hợp Hệ thống & Dịch vụ/Giải pháp Cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
“Sử dụng Công nghệ để Xây dựng Thế giới Thông minh”Nhà cung cấp Dịch vụ Sản phẩm ICT Đáng tin cậy của Bạn!