Google, Microsoft, Nvidia và nhiều gã khổng lồ công nghệ khác hợp tác để đảm bảo an toàn cho AI

Theo thông tin mới nhất 14 công ty lớn trong lĩnh vực công nghệ bao gồm Google , Microsoft, OpenAI , Amazon, Nvidia, IBM, PayPal, Cisco, Anthropic và Intel đang hợp tác để thành lập Liên minh AI an toàn (CoSAI). Sự phát triển này được cho là nhằm mục đích giải quyết “bối cảnh phân mảnh của bảo mật AI”.

CoSAI, do cơ quan tiêu chuẩn toàn cầu OASIS tổ chức, là một sáng kiến nguồn mở nhằm mục đích cung cấp cho tất cả các nhà thực hành và nhà phát triển AI hướng dẫn và công cụ họ cần để tạo và thiết kế các hệ thống AI an toàn. Dự kiến sẽ xây dựng một hệ sinh thái hợp tác để chia sẻ các phương pháp nguồn mở, khuôn khổ chuẩn hóa và công cụ.

Công nghệ AI đã, đang và sẽ hỗ trợ tích cực cho doanh nghiệp

CoSAI là một cộng đồng nguồn mở do Hội đồng dự án (chịu trách nhiệm thúc đẩy và quản lý chương trình nghị sự chung) và Ủy ban chỉ đạo kỹ thuật (gồm các chuyên gia AI từ học viện và ngành công nghiệp, giám sát luồng công việc của mình) lãnh đạo.

Các mục tiêu chính của sáng kiến này được liệt kê dưới đây:

Phát triển các biện pháp thực hành tốt nhất cho An toàn AI
Đối mặt với những thách thức trong lĩnh vực trí tuệ nhân tạo
Đảm bảo an ninh cho các ứng dụng AI

Phạm vi công việc của CoSAI bao gồm xây dựng, tích hợp, triển khai và vận hành các hệ thống AI một cách an toàn, tập trung vào việc giảm thiểu các rủi ro như trộm cắp mô hình, đầu độc dữ liệu, chèn gợi ý, lạm dụng quy mô và tấn công suy luận.

Heather Adkins, phó chủ tịch phụ trách an ninh của Google cho biết:

AI đã được phát triển trong nhiều năm, với tiềm năng liên tục mà nó mang lại cho người dùng, đồng thời cũng nhận ra những nguy cơ mà nó mang lại cho kẻ xấu.

CoSAI sẽ giúp các tổ chức lớn và nhỏ tích hợp AI một cách an toàn và có trách nhiệm, giúp họ tận dụng lợi ích của AI trong khi giảm thiểu rủi ro.
Sáng kiến này được tài trợ bởi Google, IBM, Intel , Microsoft, Nvidia, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI và Wiz.

Tổng hợp từ Gizmochina

>> Xem thêm:

Dogoo.vn

doWork - Công việc, Dự án

doBPM - Quy trình tự động

doDrive - Tài liệu online

doCalendar - Lịch biểu

doPOS - Bán hàng & Kho

doHRM - Thông tin nhân sự

doRequest - Đơn từ nhân sự

doTNP - Chấm công & Tính lương

doCMS - Thông tin nội bộ

Tài chính - Ngân hàng

Xây dựng, Bất động sản

Thương mại và Dịch vụ

Vận tải, Xuất nhập khẩu

Khai thác, chế biến

Luật, tư vấn pháp lý

Blog, Email và Bảo mật, Tự động hóa

Google, Microsoft, Nvidia và nhiều gã khổng lồ công nghệ khác hợp tác để đảm bảo an toàn cho AI

Trang tin chính thức