SK Hynix đã hỗ trợ Etched, một công ty khởi nghiệp suy luận AI của Hoa Kỳ xây dựng các hệ thống quy mô rack với công nghệ suy luận điện áp thấp (LVI) và bộ nhớ quy mô cụm (CSM).
Etched giải quyết một nút thắt quan trọng của ngành: GPU truyền thống cung cấp sức mạnh tính toán dư thừa nhưng không đủ bộ nhớ để suy luận AI quy mô lớn, dẫn đến các khung lưu trữ KV đa cấp phức tạp.Các chip suy luận phù hợp của nó làm giảm mức sử dụng năng lượng và vượt trội hơn GPU HBM thông thường về băng thông và dung lượng bộ nhớ, giảm thiểu độ trễ và sự phức tạp của thiết kế liên quan đến lưu trữ KV.
Đầu tư này đến sau khi startup Majestic Labs của Israel rời khỏi chế độ tàng hình, với công ty cũng xây dựng máy chủ suy luận xử lý tùy chỉnh với các hồ chứa bộ nhớ chia sẻ quy mô lớn.
Được thành lập vào năm 2023 tại San Jose bởi ba sinh viên đại học Harvard đã bỏ học, nhóm cốt lõi của Etched bao gồm CEO Gavin Uberti, Chủ tịch Robert Wachen và Chris Zhu.000 Thiel Fellowship để thúc đẩy sự phát triển sớm của nó.
Nhóm nghiên cứu đã xây dựng xử lý tiền lấp LVI tùy chỉnh và bộ nhớ chia sẻ CSM để tăng hiệu quả suy luận. Giải pháp đầy đủ của nó, tích hợp các chip nội bộ, bao bì, PCB và các mô-đun kết nối,cho phép triển khai kết luận thương mại quy mô lớn.
Zhu chỉ ra các chip AI chính thống bị ngưng nhiệt nghiêm trọng dưới tải trọng cao: tiêu thụ năng lượng cao làm giảm tốc độ đồng hồ,cắt giảm thông lượng suy luận thực tế xuống dưới một nửa đỉnh lý thuyết của nóCác chip của Etched chạy các đơn vị toán học ở một nửa điện áp điển hình của ngành công nghiệp, tăng đáng kể mật độ tính toán.
Ông cũng đề cập đến các sự đánh đổi phần cứng chính: Các chip AI được trang bị HBM tụt lại phía sau SRAM về tốc độ giải mã do giới hạn bộ nhớ và kết nối,trong khi chip SRAM tinh khiết gây tổn hại mật độ tính toán và dung lượng cho truy cập nhanh hơn, làm giảm tổng sản lượng.
Điều này cản trở hoạt động mô hình MoE lớn, vì truyền mã thông báo chéo lớp qua nhiều lớp bộ nhớ tạo ra độ trễ. Kiến trúc Etched® loại bỏ các lớp bộ nhớ dư thừa để giải quyết vấn đề.
Kiến trúc CSM của Etched tạo ra một nhóm bộ nhớ chia sẻ độ trễ thấp thống nhất cho phần cứng có thể mở rộng, tận dụng kết nối tốc độ cao độc quyền để tăng tốc truy cập bộ nhớ chéo chip.
Thiết kế lai HBM / SRAM của nó cân bằng dung lượng bộ nhớ và độ trễ chéo chip, cung cấp kết luận tương tác thông lượng cao.lỗi nhiệt và hiệu suất của SRAM tinh khiết, DRAM 3D và các giải pháp chip quang học.
Sự đổi mới này tách các ngăn xếp HBM khỏi các hạn chế kiến trúc GPU, củng cố các tài nguyên bộ nhớ phân tán và cung cấp tốc độ truy cập cấp SRAM thông qua công nghệ kết nối tiên tiến.
Hệ thống rack của Etched có bố cục kết nối cao, với 16 cáp chuyên dụng kết nối các cổng phía sau với tám đơn vị phần cứng cốt lõi.
Hệ thống hỗ trợ các mô hình LLM, mô hình MoE và kiến trúc không biến đổi như Mamba, với công ty tập trung vào nghiên cứu và phát triển hệ thống đầy đủ và bán hàng thương mại.
Lịch sử tài trợ khắc
2022 ️ Công ty được thành lập
2023 $ 5.4M vòng hạt giống
2024 120 triệu đô la Series A
Năm 2025 500 triệu đô la Series B
2026 300 triệu USD Series C
Tổng tài trợ cho đến nay: $925.4M
Sequoia Capital dẫn đầu vòng tròn C của Etched vào năm 2026, với sự tham gia của Andreessen Horowitz, Jane Street và SK Hynix..
Tốc độ gây quỹ hàng năm nhất quán của nó phản ánh sự lặp lại sản phẩm liên tục, được hỗ trợ bởi nhu cầu của khách hàng mạnh mẽ và sự tin tưởng của nhà đầu tư.
Wachen cho biết vốn mới sẽ tăng tốc độ sản xuất hàng loạt cụm suy luận. Công ty đã mở một trang web sản xuất 10MW ở Milpitas để nâng cao hiệu quả tạo mẫu và sản xuất.
Kiến trúc sư trưởng Saptadeep Pal tiết lộ Etched có hơn 400 nhân viên với đơn đặt hàng của khách hàng vượt quá 1 tỷ đô la.tối ưu hóa hợp tác với nhà cung cấp và thử nghiệm sản phẩm để hỗ trợ mở rộng nhanh chóng.
Khách hàng cốt lõi của nó bao gồm các doanh nghiệp lớn, các nhà cung cấp đám mây mới nổi và các nhà cung cấp siêu quy mô toàn cầu cung cấp các giải pháp suy luận như một dịch vụ.
Lời bình luận
Nếu Etched và Majestic Labs rack suy luận mới di chuyển vượt ra ngoài KV lưu trữ bộ nhớ đệm truyền thống, họ sẽ định hình lại thị trường lưu trữ doanh nghiệp.tạo cơ hội hợp tác cho các nhà cung cấp như Dell, HPE, NetApp và VAST Data để ghép nối các mảng lưu trữ với các máy chủ suy luận thế hệ tiếp theo cho hiệu suất tối ưu.
Công ty công nghệ Bắc Kinh Qianxing Jietong Co., Ltd.
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!
Vietnamese
