Vietnamese
DeepInfra đã chính thức ra mắt một trung tâm dữ liệu AI mới ở Toronto, đại diện cho việc triển khai nước ngoài đầu tiên của công ty bên ngoài Hoa Kỳ và cơ sở thứ chín trên toàn thế giới.Khu vực mới này mở rộng dấu chân cơ sở hạ tầng suy luận toàn cầu của DeepInfra, trong bối cảnh nhu cầu AI trong ngành thay đổi rộng rãi từ đào tạo mô hình sang khối lượng công việc suy luận thương mại.
Trung tâm dữ liệu Toronto có 1,7 MW công suất điện và sẽ chứa hơn 1.000 GPU NVIDIA Blackwell B300.Các cụm tính toán mới sẽ thúc đẩy quy mô suy luận toàn cầu của DeepInfra và cung cấp độ trễ mạng giảm cho người dùng cuối trên khắp Canada và các khu vực khác trên thế giới.
Sự mở rộng này phù hợp với một sự chuyển đổi rõ ràng trên toàn ngành công nghiệp.nhu cầu cơ sở hạ tầng trung tâm dữ liệu ngày càng tập trung vào khối lượng công việc suy luận hơn là các nhiệm vụ đào tạo. Khả năng suy luận mô hình ngôn ngữ lớn đòi hỏi sự sẵn có GPU nhất quán, mạng latency thấp và cơ sở hạ tầng phân tán theo địa lý để cung cấp các ứng dụng tương tác, các đại lý AI thông minh,và các dịch vụ API thông lượng caoTheo nghiên cứu của McKinsey & Company được đề cập trong thông báo, khối lượng công việc suy luận sẽ vượt quá 40% tổng nhu cầu trung tâm dữ liệu vào năm 2030, với tốc độ tăng trưởng hàng năm tổng hợp 35%.
DeepInfra nói rằng việc triển khai Toronto được xây dựng nhằm đáp ứng những nhu cầu đang phát triển này,đặt các tài nguyên tính toán GPU gần hơn với người dùng cuối và các nguồn dữ liệu cục bộ trong khi mở rộng tổng thể thông lượng của nền tảng. Công ty độc lập sở hữu và vận hành toàn bộ bộ cơ sở hạ tầng GPU của mình, hỗ trợ hơn 200 mô hình AI mã nguồn mở. Nền tảng suy luận được quản lý của nó xử lý gần năm nghìn tỷ token mỗi tuần,bao gồm cả các mô hình mở và độc quyền.
Việc ra mắt cũng nhấn mạnh sự gia tăng ngành công nghiệp áp dụng kiến trúc Blackwell của NVIDIA cho cơ sở hạ tầng suy luận hiện đại.GPU Blackwell cung cấp hiệu suất suy luận tăng cường và hiệu quả năng lượng tốt hơn cho các mô hình ngôn ngữ lớn và khối lượng công việc AI đa phương thứcMặc dù DeepInfra không công bố thêm chi tiết về kiến trúc mạng và lưu trữ,Việc triển khai quy mô lớn của loại hình này thường tận dụng kết nối băng thông cao và lưu trữ phân tán để duy trì việc sử dụng GPU đầy đủ.
Như Nikola Borisov, Giám đốc điều hành và đồng sáng lập DeepInfra đã lưu ý, AI doanh nghiệp đã chuyển từ thử nghiệm thử nghiệm sang triển khai sản xuất quy mô lớn,thúc đẩy nhu cầu lớn hơn cho cơ sở hạ tầng phân tán toàn cầu với độ trễ thấp và khả năng suy luận có thể mở rộngÔng giải thích rằng cụm Toronto đánh dấu sự mở rộng quốc tế đầu tiên của công ty vượt ra ngoài biên giới Hoa Kỳ, định vị tài nguyên tính toán gần với khách hàng toàn cầu và bộ dữ liệu của họ.
Cơ sở Toronto được xây dựng sau vòng tài trợ Series B gần đây của DeepInfra và đóng vai trò là một phần quan trọng trong lộ trình mở rộng cơ sở hạ tầng dài hạn.Công ty xác nhận nó đang đánh giá các trang web trung tâm dữ liệu quốc tế bổ sung để đáp ứng nhu cầu thị trường ngày càng tăng cho các dịch vụ suy luận GPU.
Công ty công nghệ Bắc Kinh Qianxing Jietong Co., Ltd.
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!