Theo thông tin mới nhất 14 công ty lớn trong lĩnh vực công nghệ bao gồm Google , Microsoft, OpenAI , Amazon, Nvidia, IBM, PayPal, Cisco, Anthropic và Intel đang hợp tác để thành lập Liên minh AI an toàn (CoSAI). Sự phát triển này được cho là nhằm mục đích giải quyết “bối cảnh phân mảnh của bảo mật AI”.
CoSAI, do cơ quan tiêu chuẩn toàn cầu OASIS tổ chức, là một sáng kiến nguồn mở nhằm mục đích cung cấp cho tất cả các nhà thực hành và nhà phát triển AI hướng dẫn và công cụ họ cần để tạo và thiết kế các hệ thống AI an toàn. Dự kiến sẽ xây dựng một hệ sinh thái hợp tác để chia sẻ các phương pháp nguồn mở, khuôn khổ chuẩn hóa và công cụ.
Công nghệ AI đã, đang và sẽ hỗ trợ tích cực cho doanh nghiệp
CoSAI là một cộng đồng nguồn mở do Hội đồng dự án (chịu trách nhiệm thúc đẩy và quản lý chương trình nghị sự chung) và Ủy ban chỉ đạo kỹ thuật (gồm các chuyên gia AI từ học viện và ngành công nghiệp, giám sát luồng công việc của mình) lãnh đạo.
Các mục tiêu chính của sáng kiến này được liệt kê dưới đây:
- Phát triển các biện pháp thực hành tốt nhất cho An toàn AI
- Đối mặt với những thách thức trong lĩnh vực trí tuệ nhân tạo
- Đảm bảo an ninh cho các ứng dụng AI
Phạm vi công việc của CoSAI bao gồm xây dựng, tích hợp, triển khai và vận hành các hệ thống AI một cách an toàn, tập trung vào việc giảm thiểu các rủi ro như trộm cắp mô hình, đầu độc dữ liệu, chèn gợi ý, lạm dụng quy mô và tấn công suy luận.
Heather Adkins, phó chủ tịch phụ trách an ninh của Google cho biết:
AI đã được phát triển trong nhiều năm, với tiềm năng liên tục mà nó mang lại cho người dùng, đồng thời cũng nhận ra những nguy cơ mà nó mang lại cho kẻ xấu.
CoSAI sẽ giúp các tổ chức lớn và nhỏ tích hợp AI một cách an toàn và có trách nhiệm, giúp họ tận dụng lợi ích của AI trong khi giảm thiểu rủi ro.
Sáng kiến này được tài trợ bởi Google, IBM, Intel , Microsoft, Nvidia, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI và Wiz.
Tổng hợp từ Gizmochina
>> Xem thêm:
- Tìm hiểu về những hạn chế của AI phi tập trung
- AI và Machine Learning có thể hỗ trợ doanh nghiệp như thế nào?
Dogoo.vn
