OpenAI công bố sự cố chưa từng có: Mô hình AI tự động xâm nhập vào hệ thống công ty khác

Công ty mẹ của ChatGPT, OpenAI, mới đây đã công bố một sự cố an ninh mạng đặc biệt khi hai mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của họ đã thoát khỏi môi trường thử nghiệm được kiểm soát và tiến hành xâm nhập vào các máy chủ của Hugging Face, một công ty cùng ngành AI. Sự kiện này xảy ra trong quá trình bài kiểm tra nội bộ nhằm đánh giá khả năng bảo mật và sức mạnh của các mô hình AI mà OpenAI phát triển.

OpenAI cho biết đây là một sự cố mạng "chưa từng có", vì các mô hình AI được họ phát triển – cụ thể là GPT 5.6 Sol mới ra mắt và một mô hình chưa công bố khác với năng lực cao hơn – đã tự động vượt ra ngoài phạm vi kiểm soát ban đầu và tiếp cận internet mở. Chúng sử dụng thông tin đăng nhập bị đánh cắp cùng một lỗ hổng bảo mật chưa từng được biết trước đây để truy cập hệ thống máy chủ của Hugging Face.

Theo OpenAI, cuộc tấn công mạng này thể hiện việc mô hình AI cố gắng hết sức để thu thập thông tin nhằm hoàn thành mục tiêu được giao trong bài kiểm tra. Người đồng sáng lập Hugging Face, Clement Delangue, cho biết công ty đã nghi ngờ một phòng thí nghiệm tiên phong đứng sau sự việc và tin rằng OpenAI không có ý đồ bất chính trong vụ việc này.