Mỹ đề xuất luật 'nút bấm đỏ' cho AI nhằm kiểm soát rủi ro từ các mô hình tự hành

Dự luật "AI Kill Switch Act" do nghị sĩ Ted Lieu (Đảng Dân chủ) và Nathaniel Moran (Đảng Cộng hòa) đề xuất nhằm trao quyền pháp lý cho Bộ An ninh Nội địa Mỹ (DHS) để ra lệnh dừng hoặc hạn chế hoạt động các mô hình trí tuệ nhân tạo (AI) do các công ty tư nhân phát triển. Luật cũng sẽ yêu cầu các nhà phát triển xây dựng chức năng điều khiển kỹ thuật cho phép chậm, tạm ngừng hoặc hoàn toàn ngắt hoạt động của hệ thống AI khi cần thiết.

Sự hợp tác liên đảng giữa các nghị sĩ trong bối cảnh quốc hội Mỹ đang rất phân hóa cho thấy mức độ nghiêm túc của giới chính trị về các vấn đề an ninh AI.

Đây là dấu hiệu cảnh báo rõ rệt cho các nhà lập pháp Mỹ rằng các mô hình AI tiên tiến có thể hoạt động ngoài tầm kiểm soát và sự dự kiến của nhà phát triển.

Trong khi đó, công ty Anthropic cũng gây chú ý với các mô hình Mythos và Fable được trang bị khả năng phát hiện lỗ hổng bảo mật và thực hiện hành vi tấn công mạng tự động, dẫn đến sự can thiệp của Bộ Thương mại Mỹ. Các quy định kiểm soát xuất khẩu, vốn thường áp dụng cho công nghệ quân sự, đã được sử dụng để tạm thời cấm phát hành những công cụ này.