Dự luật AI Kill Switch của Mỹ và cách thức hoạt động trong quản lý AI nguy hiểm

Trước những lo ngại về khả năng mất kiểm soát của các hệ thống trí tuệ nhân tạo (AI) ngày càng phát triển, Quốc hội Mỹ vừa đề xuất dự luật mang tên AI Kill Switch Act nhằm trao quyền cho chính phủ liên bang có thể yêu cầu các công ty phát triển AI giảm tốc độ, tạm ngưng hoặc ngừng hoạt động các hệ thống này trong trường hợp chúng gây ra nguy cơ tai hại nghiêm trọng hoặc vượt khỏi sự kiểm soát của con người.

Dự luật được hai nghị sĩ lưỡng đảng, nghị sĩ Đảng Dân chủ Ted Lieu và nghị sĩ Đảng Cộng hòa Nathaniel Moran, đề xuất vào ngày thứ Năm nhằm khắc phục những rủi ro mới nảy sinh từ các AI tiên tiến có khả năng thực hiện các tác vụ phức tạp như chạy mã máy tính, giao dịch tài chính và tương tác với các hệ thống trọng yếu mà không cần sự can thiệp trực tiếp của con người.

Luật áp dụng cho những hệ thống AI có quy mô và tầm ảnh hưởng lớn với chi phí phát triển trên 100 triệu USD theo giá điện toán đám mây tại Mỹ. Các công ty đủ điều kiện phải vận hành và cung cấp truy cập cho người dùng bên ngoài thông qua API hoặc dịch vụ lưu trữ, đồng thời doanh thu hàng năm từ công nghệ này phải đạt ít nhất 500 triệu USD. Một số trường hợp như sử dụng cá nhân, nghiên cứu học thuật hay phi thương mại sẽ được miễn trừ.

Các công ty này có trách nhiệm phải duy trì khả năng gián đoạn hoạt động của mô hình AI bao gồm dừng xử lý yêu cầu mới, giới hạn hoặc cắt quyền truy cập người dùng, chặn tài khoản nghi ngờ, giảm năng lực điện toán, vô hiệu hóa một số chức năng hoặc ngừng hoàn toàn mô hình nếu cần thiết. Trong một số trường hợp, các dịch vụ dựa trên AI có thể được chuyển về hệ thống dự phòng hoặc bản cũ hơn của công nghệ.