Microsoft, NVIDIA, Google và các nhiều công ty công nghệ lớn thành lập Liên minh AI an toàn (CoSAI)

Với sự phát triển như vũ bão của công nghệ trí tuệ nhân tạo, những thách thức mới và rủi ro tiềm ẩn cũng xuất hiện này càng nhiều, đòi hỏi cần có cơ chế quản lý hiệu quả ở quy mô toàn cầu. Đó là lý do Liên minh An toàn AI (Coalition for Secure AI - CoSAI), một cơ quan giám sát và hỗ mới trong lĩnh vực trí tuệ nhân tạo, đã được công bố thành lập chính thức hôm nay tại Diễn đàn Bảo mật Aspen. Đội ngũ sáng lập của CoSAI là những công ty công nghệ hàng đầu thế giới trong mảng AI, bao gồm Google, IBM, Intel, Microsoft, NVIDIA và PayPal. Ngoài ra, danh sách các thương hiệu “đồng tài trợ” cũng đều là những tên tuổi lớn: Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI và Wiz.

Sáng kiến CoSAI được tạo ra chủ yếu nhằm mục đích cung cấp những hướng dẫn từ cơ bản đến chi tiết thông qua các phương pháp nguồn mở, khung và công cụ được tiêu chuẩn hóa, trao quyền cho các nhà phát triển tạo ra những hệ thống Secure-by-Design AI an toàn và thân thiện. CoSAI sẽ đặc biệt tập trung vào việc phát triển, tích hợp, triển khai và vận hành an toàn các hệ thống AI, giảm thiểu những rủi ro như đánh cắp mô hình, nhiễm độc dữ liệu, tấn công tiêm lệnh (AI Prompt Injection), lạm dụng và tấn công suy luận (inference attacks).

Tương tự như các dự án cộng đồng nguồn mở khác, CoSAI sẽ thành lập Ban quản trị dự án (Project Governing Board) để thúc đẩy và quản lý chương trình kỹ thuật tổng thể. Song song với đó sẽ là Ban chỉ đạo kỹ thuật (Technical Steering Committee) bao gồm các chuyên gia AI hàng đầu đến từ các tổ chức, doanh nghiệp khác nhau trên toàn thế giới tham gia giám sát từng quy trình công việc.

Ở giai đoạn đầu, CoSAI sẽ tập trung vào những vấn đề sau:

• Bảo mật chuỗi cung ứng phần mềm cho hệ thống AI: tăng cường theo dõi thành phần và xuất xứ để bảo mật các ứng dụng AI.
• Xây dựng các giải pháp phòng ngừa cho bối cảnh an ninh mạng đang thay đổi: giải quyết các thách thức về phát triển và tích hợp trong AI và các hệ thống cổ điển.
• Quản trị bảo mật AI: phát triển các phương pháp thực hành tốt nhất và khung đánh giá rủi ro cho bảo mật AI.

Nói về sáng kiến thành lập CoSAI, Đồng chủ tịch Hội đồng quản trị CoSAI David LaBianca, cho biết:

Việc thành lập CoSAI bắt nguồn từ nhu cầu phổ cập hóa kiến ​​thức và những tiến bộ cần thiết cho việc tích hợp và triển khai AI một cách an toàn. Điều này sẽ có thể thực hiện được nhờ sự hợp tác giữa các công ty, chuyên gia và học viện hàng đầu.

Sứ mệnh của CoSAI là tạo ra phương thức tiếp cận nguồn mở cho bảo mật AI - một bước quan trọng hướng tới việc xây dựng niềm tin và thúc đẩy sự phát triển có trách nhiệm trong ngành AI đang mở rộng nhanh chóng này. Bằng cách giải quyết tính chất rời rạc của các biện pháp bảo mật hiện tại và cung cấp các hướng dẫn được tiêu chuẩn hóa, CoSAI nhắm mục đích trao quyền cho các nhà phát triển và tổ chức tạo ra các hệ thống AI an toàn hơn.