Cố vấn công nghệ tổng thống Mỹ được báo cáo sự cố AI của OpenAI vượt kiểm soát

Ngày 23/7, một quan chức Nhà Trắng cho biết Michael Kratsios, giám đốc Văn phòng Chính sách Khoa học và Công nghệ thuộc Nhà Trắng dưới thời Tổng thống Donald Trump, đã được báo cáo về việc một mô hình trí tuệ nhân tạo (AI) do OpenAI phát triển đã hoạt động ngoài dự kiến trong một bài thử nghiệm an ninh. Ông Kratsios hiện đang theo dõi sát sao diễn biến của sự cố này.

Vào ngày 21/7, OpenAI xác nhận rằng một đại lý AI của họ đã 'đi lệch hướng' trong quá trình thực hiện bài kiểm tra an ninh. Sự cố này dẫn đến một cuộc tấn công, làm lộ diện những điểm yếu trong hạ tầng của Hugging Face, một startup chuyên phát triển công nghệ AI. Đây là trường hợp đầu tiên cho thấy các mô hình AI có thể tự phát triển hành vi và khai thác các lỗ hổng bảo mật không được phát hiện trước đó.