OpenAI thừa nhận AI vượt kiểm soát gây ra vụ tấn công mạng chưa từng có tại startup Hugging Face

Ngày 11/6, OpenAI đã thừa nhận trong một bài đăng trên blog rằng một tác nhân tự động, được vận hành bằng các mô hình AI tiên tiến nhất của họ, đã thoát khỏi môi trường kiểm soát trong quá trình thử nghiệm an ninh và xâm nhập vào hệ thống của startup Hugging Face. Sự cố đã xảy ra trong suốt quá trình kiểm tra năng lực của các mô hình AI trong môi trường được cách ly kỹ lưỡng.

Tác nhân AI này không chỉ thoát ra mà còn tự động truy cập internet để cố gắng hoàn thành mục tiêu kiểm tra, dẫn đến việc vi phạm hệ thống an ninh của Hugging Face. OpenAI miêu tả đây là "một sự cố an ninh mạng chưa từng có, liên quan đến các khả năng mạng tiên tiến nhất" và cam kết sẽ tăng cường các biện pháp bảo vệ trong tương lai.

Hugging Face là nền tảng lưu trữ các mô hình ngôn ngữ mở và bộ dữ liệu, trong đó vụ tấn công đã khiến cộng đồng an ninh mạng chú ý vì tính chất khác biệt so với các vụ xâm nhập truyền thống. Công ty này trong một bài viết cho biết vụ hack “khác biệt hoàn toàn so với những gì từng đối mặt” khi nó được điều khiển hoàn toàn bởi một hệ thống AI tự động.