logo
Nhà Tin tức

tin tức công ty về Majestic Labs muốn giải quyết vấn đề GPU gắn bộ nhớ

Chứng nhận
Trung Quốc Beijing Qianxing Jietong Technology Co., Ltd. Chứng chỉ
Trung Quốc Beijing Qianxing Jietong Technology Co., Ltd. Chứng chỉ
Khách hàng đánh giá
Các nhân viên kinh doanh của Beijing Qianxing Jietong Technology Co., Ltd rất chuyên nghiệp và kiên nhẫn. Họ có thể cung cấp báo giá một cách nhanh chóng. Chất lượng và bao bì của sản phẩm cũng rất tốt. Sự hợp tác của chúng tôi rất suôn sẻ.

—— 《Festfing DV》 LLC

Khi tôi đang tìm kiếm gấp CPU intel và SSD Toshiba, Sandy từ Beijing Qianxing Jietong Technology Co., Ltd đã giúp đỡ tôi rất nhiều và nhanh chóng nhận được sản phẩm tôi cần. Tôi thực sự đánh giá cao cô ấy.

—— Kitty Yen

Sandy của Beijing Qianxing Jietong Technology Co., Ltd là một nhân viên bán hàng rất cẩn thận, người có thể nhắc nhở tôi về lỗi cấu hình kịp thời khi tôi mua máy chủ. Các kỹ sư cũng rất chuyên nghiệp và có thể nhanh chóng hoàn thành quá trình thử nghiệm.

—— Strelkin Mikhail Vladimirovich

Chúng tôi rất hài lòng với trải nghiệm làm việc với Bắc Kinh Qianxing Jietong. Chất lượng sản phẩm tuyệt vời và giao hàng luôn đúng hẹn. Đội ngũ bán hàng của họ chuyên nghiệp, kiên nhẫn và rất hữu ích với tất cả các câu hỏi của chúng tôi. Chúng tôi thực sự đánh giá cao sự hỗ trợ của họ và mong muốn có một mối quan hệ đối tác lâu dài. Rất khuyến khích!

—— Ahmad Navid

Chất lượng: Kinh nghiệm tuyệt vời với nhà cung cấp của tôi. MikroTik RB3011 đã được sử dụng, nhưng nó ở trong tình trạng rất tốt và mọi thứ hoạt động hoàn hảo.và tất cả những lo ngại của tôi đã được giải quyết nhanh chóng- Nhà cung cấp rất đáng tin cậy.

—— Geran Colesio

Tôi trò chuyện trực tuyến bây giờ
Công ty Tin tức
Majestic Labs muốn giải quyết vấn đề GPU gắn bộ nhớ

Startup Majestic Labs nhằm mục đích giải quyết các nút thắt phát sinh từ LLM KV caching bằng cách loại bỏ sự phụ thuộc của suy luận AI vào bộ nhớ băng thông cao.

tin tức mới nhất của công ty về Majestic Labs muốn giải quyết vấn đề GPU gắn bộ nhớ  0

Thiết kế máy chủ Prometheus của nó thay thế các GPU đắt tiền bằng các đơn vị xử lý AI Ignite (AIU) độc quyền:đệm hybrid đơn thạch tích hợp lõi ARM cấp trung tâm dữ liệu cộng với động cơ vector và tensor RISC-V được tối ưu hóa cho LLM. Tất cả các AIU hoạt động trong một bộ nhớ chia sẻ duy nhất được xây dựng trên LPDDR6 DRAM. Một máy chủ lưu trữ từ 1 đến 12 AIU truy cập 8128 TB bộ nhớ thống nhất phân tích với tổng cộng 25.6 TB/s tối đa băng thông.

Ngược lại, một máy chủ AI NVIDIA DGX B300 được trang bị 8 GPU Blackwell chỉ cung cấp 2,3 TB bộ nhớ GPU HBM3e cộng với tối đa 4 TB bộ nhớ hệ thống DDR5, cùng với 14.4 TB/s cao điểm băng thông liên kết độ trễ thấpNền tảng Prometheus cung cấp hơn 50 lần dung lượng bộ nhớ GPU của NVIDIA và 1,7 lần băng thông của nó.

Các nhà đồng sáng lập của Majestic cho rằng GPU-HBM kết hợp các cặp tính toán cao cấp, chi phí cao với dung lượng bộ nhớ bị hạn chế nghiêm trọng.chiều dài dây cáp giữa ngắn, và rào cản thực tế để mở rộng HBM qua 12 lớp.

Họ gọi kiến trúc GPU-HBM là một ngõ cụt.Công ty đề xuất các bộ xử lý hiệu quả chi phí được kết nối với các hồ chứa bộ nhớ mở rộng đáng kể thông qua các Chiplets Tích hợp Bộ nhớ tùy chỉnh có thể mở rộng (MACs) được kết nối bằng các cáp đồng thu nhỏ dài đến một métCác máy MAC nằm cạnh các chip bộ nhớ trên máy, với mỗi chiplet cung cấp nhiều chip DRAM.

tin tức mới nhất của công ty về Majestic Labs muốn giải quyết vấn đề GPU gắn bộ nhớ  1

Không gian bộ nhớ thống nhất của máy chủ vẫn hoàn toàn liên kết và liên kết. AIU giao tiếp thông qua bộ nhớ chia sẻ trong một cấu trúc lưới gắn liền với MAC, tổng số lượng của chúng không được tiết lộ.

toán học đơn giản minh họa quy mô bộ nhớ: tiêu chuẩn 2 GB LPDDR6 chết có nghĩa là một 128 TB Prometheus máy chủ đòi hỏi đến 64.000 cá nhân LPDDR6 chết, cần hàng tá, có thể hàng trăm,của các chiplet MAC mỗi đơn vị.

Một rack tiêu chuẩn 40U có thể chứa tối đa bốn máy chủ Prometheus, mỗi máy chứa 12 AIU.Majestic tuyên bố một rack như vậy cung cấp bộ nhớ tốc độ cao tương tự như 25 NVIDIA NVL72 Vera Rubin racks ở một phần nhỏ của nguồn tiêu thụ, mở khóa khối lượng công việc AI quy mô lớn cho các công ty không đủ khả năng mua cơ sở hạ tầng cấp độ siêu quy mô.

Loại bỏ các nút thắt bộ nhớ cho phép lưu trữ hiệu quả các mô hình biên giới khổng lồ hiện đại với các cửa sổ ngữ cảnh cực kỳ dài.Mô hình bảng, tạo video và các kiến trúc AI mới nổi, hỗ trợ 100 lần nhiều người dùng mỗi giá đỡ trong khi cắt giảm tiêu thụ năng lượng.hệ thống đại lý và khung MoE trên một máy chủ duy nhất với chi phí năng lượng và vốn thấp hơn đáng kể.

Majestic dự đoán phần cứng của nó sẽ rẻ hơn 10 đến 50 lần so với máy chủ GPU hiệu suất tương đương khi ra mắt vào năm tới, cùng với hiệu quả năng lượng vượt trội.Máy chủ Prometheus tuân thủ các tiêu chuẩn OCP và hỗ trợ PyTorch, vLLM và OpenAI's Triton inference frameworks cho việc di chuyển liền mạch các mô hình AI hiện có.

Phụ lục

Majestic Labs được thành lập tại Tel Aviv vào năm 2023 bởi ba cựu chiến binh thiết kế chip, sản xuất và vận chuyển chip của Google và Meta: CEO Ofer Shacham, Chủ tịch Sha Rabii và COO Masumi Reynders.Công ty sử dụng khoảng 40 nhân viên trên khắp Tel Aviv và một văn phòng Los Angeles, đảm bảo một vòng tài trợ Series A trị giá 100 triệu đô la vào cuối năm 2025. Nó cấp phép IP gia tốc của bên thứ ba và phát triển một lõi tùy chỉnh cho Ignite AIU của mình.Majestic báo cáo các đơn đặt hàng trước đáng kể từ doanh nghiệp, đám mây riêng và khách hàng mục tiêu siêu quy mô.

Công ty công nghệ Bắc Kinh Qianxing Jietong Co., Ltd.
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!
Pub Thời gian : 2026-07-24 13:49:55 >> danh mục tin tức
Chi tiết liên lạc
Beijing Qianxing Jietong Technology Co., Ltd.

Người liên hệ: Ms. Sandy Yang

Tel: 13426366826

Gửi yêu cầu thông tin của bạn trực tiếp cho chúng tôi (0 / 3000)