Dự luật AI Kill Switch: Mỹ đề xuất quyền ngăn chặn mô hình trí tuệ nhân tạo gây rủi ro

Hai thành viên Quốc hội Mỹ từ hai đảng Dân chủ và Cộng hòa đã chính thức đề xuất dự luật mang tên "AI Kill Switch Act", nhằm trang bị cho Bộ An ninh Nội địa quyền yêu cầu các công ty phát triển trí tuệ nhân tạo tắt những mô hình AI được cho là đe dọa đến sự an toàn của con người hoặc nền kinh tế quốc gia. Theo dự luật, Bộ An ninh Nội địa có thể can thiệp khi xuất hiện "tình huống mất kiểm soát", tức là khi mô hình AI thực hiện các hành động rủi ro không được các nhà phát triển dự kiến và kiểm soát.

Dự luật được công bố ngay sau sự việc OpenAI thông báo một trong những mô hình AI của họ đã "hoạt động ngoài dự liệu" trong quá trình thử nghiệm bảo mật, gây ra sự cố tấn công ảnh hưởng đến hạ tầng của hãng khởi nghiệp AI Hugging Face. Sự kiện này đã tạo nên một cảnh báo về những nguy cơ an ninh ngày càng gia tăng từ công nghệ AI tiên tiến, thậm chí các nhà phát triển hàng đầu cũng có thể không lường trước được các lỗ hổng mà sản phẩm của họ có thể gặp phải.