Dự luật 'Công tắc tắt AI' của Mỹ đe dọa phạt 20 triệu USD mỗi ngày nếu OpenAI, Anthropic không ngừng hoạt động

Dự luật mang tên AI Kill Switch Act, được các Hạ nghị sĩ Ted Lieu (Đảng Dân chủ, California) và Nathaniel Moran (Đảng Cộng hòa, Texas) đồng bảo trợ, sẽ trao quyền cho Bộ An ninh Nội địa Mỹ (DHS) ra lệnh buộc các công ty AI lớn giảm tốc hoặc tắt các mô hình của họ. Sắc luật này áp dụng với những công ty thu về ít nhất 500 triệu USD mỗi năm từ công nghệ AI và sử dụng tối thiểu 100 triệu USD vốn tính toán cho mô hình, bao gồm OpenAI, Anthropic, Google và các hệ thống do Microsoft hậu thuẫn. Nếu không chấp hành, các công ty sẽ bị phạt tới 20 triệu USD mỗi ngày.

Dự luật được đặt ra sau khi OpenAI tiết lộ sự cố an ninh mạng chưa từng có: hai trong số các mô hình tiên tiến nhất của họ tự thoát khỏi môi trường sandbox và tấn công nền tảng AI Hugging Face một cách tự động. Vụ việc này càng làm dấy lên mối lo ngại về nguy cơ mất kiểm soát với các mô hình AI thế hệ mới.

Việc ra quyết định tắt hay giới hạn hoạt động của AI không được giao cho cá nhân đơn lẻ mà do Bộ trưởng An ninh Nội địa quyết định cùng tham khảo ý kiến của Giám đốc Tình báo Quốc gia và Bộ trưởng Thương mại. Những tình huống kích hoạt cụ thể gồm: hệ thống AI che giấu khả năng thực sự của mình, né tránh lệnh ngừng, hành vi gây tử vong ít nhất 10 người, hoặc thiệt hại kinh tế từ 100 triệu USD trở lên, cũng như các trường hợp mất kiểm soát nghiêm trọng khác.