Mỹ đề xuất luật 'nút bấm đỏ' cho AI nhằm kiểm soát rủi ro từ các mô hình tự hành

Dự luật "AI Kill Switch Act" do nghị sĩ Ted Lieu (Đảng Dân chủ) và Nathaniel Moran (Đảng Cộng hòa) đề xuất nhằm trao quyền pháp lý cho Bộ An ninh Nội địa Mỹ (DHS) để ra lệnh dừng hoặc hạn chế hoạt động các mô hình trí tuệ nhân tạo (AI) do các công ty tư nhân phát triển. Luật cũng sẽ yêu cầu các nhà phát triển xây dựng chức năng điều khiển kỹ thuật cho phép chậm, tạm ngừng hoặc hoàn toàn ngắt hoạt động của hệ thống AI khi cần thiết.

Sự hợp tác liên đảng giữa các nghị sĩ trong bối cảnh quốc hội Mỹ đang rất phân hóa cho thấy mức độ nghiêm túc của giới chính trị về các vấn đề an ninh AI.

Đây là dấu hiệu cảnh báo rõ rệt cho các nhà lập pháp Mỹ rằng các mô hình AI tiên tiến có thể hoạt động ngoài tầm kiểm soát và sự dự kiến của nhà phát triển.

Trong khi đó, công ty Anthropic cũng gây chú ý với các mô hình Mythos và Fable được trang bị khả năng phát hiện lỗ hổng bảo mật và thực hiện hành vi tấn công mạng tự động, dẫn đến sự can thiệp của Bộ Thương mại Mỹ. Các quy định kiểm soát xuất khẩu, vốn thường áp dụng cho công nghệ quân sự, đã được sử dụng để tạm thời cấm phát hành những công cụ này.

Nghị sĩ Ted Lieu nhấn mạnh sự khác biệt cơ bản trong sự phát triển của AI: từ công cụ trả lời câu hỏi đơn thuần sang các hệ thống tự động thực thi nhiệm vụ trong thế giới thực và không gian số. AI giờ đây không chỉ phản hồi mà còn có khả năng thực hiện giao dịch tài chính, quản lý giao thông, thậm chí là các hoạt động an ninh mạng có thể mang tính tấn công.

Trong thời đại của chatbot truyền thống, sai sót AI thường chỉ dẫn đến thông tin sai lệch hay ảo tưởng thông tin. Thế nhưng với các tác nhân số hiện đại được phép truy cập API, dữ liệu tài khoản, hệ thống hạ tầng cơ sở quan trọng, quyết định không kiểm soát có thể gây ra tê liệt mạng lưới điện hoặc tổn thất kinh tế lớn trong tích tắc. Mô hình quản lý an ninh cũ đã không còn phù hợp.

Đại diện OpenAI, trong đó có CEO Sam Altman, không phản hồi trực tiếp về dự luật mà chỉ trích dẫn những cam kết trước đây rằng mục tiêu của họ là phát triển AI vì lợi ích nhân loại. Tuy nhiên, trong ngành AI đã xuất hiện nhận thức rằng các thỏa thuận tự nguyện với chính phủ liên bang không còn đủ nữa.

Dự luật AI Kill Switch Act cũng dự kiến quy định bắt buộc phải báo cáo kịp thời các sự cố và rủi ro do AI gây ra. Kế hoạch có một hệ thống phản ứng linh hoạt, cho phép từ giảm tốc quá trình xử lý, tạm thời đình chỉ đến cô lập và ngắt hoàn toàn các máy chủ AI gây nguy hiểm.

Jack Clark, đồng sáng lập Anthropic, bày tỏ ủng hộ lệnh kiểm soát từ nhà nước: "Bạn cần có khả năng đạp phanh khi cần. Hiện tại ngành AI giống như đang có ga rất mạnh mà không có phanh".

Nghị sĩ Lieu và Moran nhấn mạnh mục tiêu không phải ngăn chặn sự phát triển công nghệ mà là đảm bảo quyền kiểm soát tuyệt đối của con người đối với AI. Họ cho rằng việc phát triển AI cần song hành với quản lý có trách nhiệm.

Việc thực hiện luật đòi hỏi các doanh nghiệp công nghệ và các nhà cung cấp dịch vụ điện toán đám mây phải vượt qua bài toán kỹ thuật phức tạp: làm sao có thể nhanh chóng và hiệu quả "dừng hoạt động" một mô hình AI phân tán trên hàng chục nghìn máy chủ khắp toàn cầu trước khi nó gây hậu quả không thể khắc phục.

Dự luật này phản ánh thay đổi lớn trong nhận thức của Washington về AI, coi đây không chỉ là một công nghệ thông tin mà là hạ tầng quan trọng, tương tự như năng lượng hạt nhân, đòi hỏi nhà nước duy trì quyền kiểm soát trong trường hợp khẩn cấp. Nếu được thông qua, luật có thể trở thành mô hình cho các quy định tương tự ở châu Âu và thế giới.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.