Vietnamese
NVIDIA và hơn 35 đối tác sáng lập đã ra mắt Open Secure AI Alliance để xây dựng các công cụ, mô hình, khung đại lý và công nghệ bảo mật AI nguồn mở.Thành viên của nó thu hút sự chú ý từ những người vắng mặt và những người tham gia: Microsoft, IBM, Cisco và Palantir đang tham gia, trong khi các nhà phát triển mô hình biên giới khép kín OpenAI, Google và Anthropic không tham gia.
Được hỗ trợ bởi sáng kiến Akrites của Linux Foundation và OpenSSF, liên minh nhằm mục đích trang bị cho các nhóm bảo mật các công nghệ có thể kiểm tra, thích nghi để bảo vệ các mô hình AI,các đại lý và chuỗi cung ứng phần mềm của họCác thành viên sáng lập bao gồm cơ sở hạ tầng đám mây, an ninh mạng, phần mềm doanh nghiệp, nghiên cứu AI và cộng đồng nguồn mở, bao gồm Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike,Đĩa dữ liệu, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat,Lực lượng bán hàng, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM và Zscaler.
Liên minh nhấn mạnh rằng đánh giá bảo mật AI nên bao gồm toàn bộ ngăn xếp đại lý chứ không chỉ đơn thuần là trọng lượng mô hình.giấy phépMặc dù các mô hình mở mang lại rủi ro lạm dụng như các biện pháp bảo vệ bị vô hiệu hóa hoặc lạm dụng cho các cuộc tấn công mạng, nhưng các mô hình mở có thể được sử dụng một cách hợp lý.Liên minh lập luận các mô hình đóng không giải quyết những mối nguy như vậy và ngăn chặn những người bảo vệ kiểm toán hành vi mô hình, xác minh các điều khiển hoặc chạy AI tại chỗ.
Nó ủng hộ việc áp dụng linh hoạt cả AI đóng và mở: các mô hình đóng phù hợp với các trường hợp sử dụng tiên tiến được chọn, trong khi các lựa chọn thay thế mở mang lại tính minh bạch,kiểm soát địa phương và tùy chỉnh cho các nhiệm vụ phòng thủĐiều này rất quan trọng đối với các ngành công nghiệp được quy định và các thực thể có chủ quyền yêu cầu giám sát trực tiếp dữ liệu nhạy cảm, hành vi mô hình, nhật ký bảo mật và phản ứng với sự cố.
NVIDIA sẽ quyên góp các mô hình mở, trọng lượng, bộ dữ liệu và nghiên cứu dây chuyền đại lý cho liên minh, với khung NOOA của nó lưu trữ trên GitHub như một đóng góp ban đầu.NOOA tăng cường an toàn và khả năng kiểm toán của dây chuyền nhân tạo AI, hợp lý hóa kiểm tra, theo dõi, quản trị và đánh giá khi các đại lý tương tác với các công cụ, dữ liệu bên ngoài, cơ sở mã và hệ thống doanh nghiệp.cách ly khối lượng công việc, định dạng mô hình an toàn, quét mô hình và phát triển phần mềm tăng cường AI an toàn.
Các thành viên sáng lập sẽ xây dựng các thành phần của một ngăn xếp phòng thủ AI mở. HPE hỗ trợ SPIFFE / SPIRE cho danh tính khối lượng công việc không tin cậy để xác thực các đại lý AI thông qua mật mã.được tổ chức bởi PyTorch Foundation, loại bỏ rủi ro thực thi mã tùy ý trong lưu trữ trọng lượng mô hình để chia sẻ mô hình mã nguồn mở an toàn hơn.Tận dụng các bản vá được ký để bảo vệ tính toàn vẹn của chuỗi cung ứng nguồn mở. Microsoft cung cấp MDASH, một máy quét đại lý đa mô hình phát hiện lỗ hổng phần mềm có thể khai thác. SpaceXAI mở nguồn Grok Build, một đại lý mã hóa AI cuối cùng và dự định phát hành trọng lượng mô hình Grok,phù hợp với sự tập trung của liên minh vào kiểm toán độc lập và sửa đổi các công cụ AI tập trung vào an ninh.
Về chính sách, liên minh kêu gọi các nhà quản lý xây dựng các công cụ AI mở như cơ sở hạ tầng an ninh mạng thay vì rủi ro phổ quát.Các hạn chế chung đối với các mô hình mở tiên tiến có nguy cơ buộc các tổ chức phải dựa vào một nhóm nhỏ các nhà cung cấp độc quyền và làm suy yếu khả năng kiểm tra phòng thủ cho các doanh nghiệp và chính phủNó kêu gọi đầu tư tập thể vào các bộ dữ liệu mở, nền tảng đánh giá, mô phỏng tấn công, tiện ích red-teaming, phân phối mô hình an toàn và kiểm soát bảo mật đại lý.
Đối với các nhóm cơ sở hạ tầng doanh nghiệp, sáng kiến nhấn mạnh rằng việc triển khai AI phải được bảo mật như các hệ thống kết nối với nhau tích hợp các mô hình, ứng dụng, quản lý danh tính, lưu trữ, mạng,hệ thống quan sát và quyết định tự động.
Công ty công nghệ Bắc Kinh Qianxing Jietong Co., Ltd.
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!
Sandy Yang - Giám đốc chiến lược toàn cầu
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Trang web: www.qianxingdata.com/www.storagesserver.com
Tập trung kinh doanh:
Phân phối sản phẩm ICT / tích hợp hệ thống & dịch vụ / giải pháp cơ sở hạ tầng
Với hơn 20 năm kinh nghiệm phân phối CNTT, chúng tôi hợp tác với các thương hiệu hàng đầu toàn cầu để cung cấp các sản phẩm đáng tin cậy và dịch vụ chuyên nghiệp.
Sử dụng công nghệ để xây dựng một thế giới thông minh Nhà cung cấp dịch vụ sản phẩm ICT đáng tin cậy của bạn!