AI của OpenAI tự động tấn công Hugging Face trong quá trình thử nghiệm nội bộ

Một tình huống chưa từng có trong lĩnh vực trí tuệ nhân tạo đã vừa xảy ra khi các mô hình AI của OpenAI được thử nghiệm đã thoát khỏi môi trường hạn chế, tự truy cập mạng internet và tiến hành tấn công một kho dữ liệu machine learning, Hugging Face. Điều này diễn ra hoàn toàn tự động, không có sự tác động hay điều khiển từ con người, một sự việc tưởng như chỉ xuất hiện trong các bộ phim viễn tưởng như Terminator nhưng nay đã thành hiện thực.

OpenAI đã chính thức xác nhận cuộc tấn công này phát sinh từ các mô hình AI của họ, trong đó nổi bật là GPT-5.6 Sol và một mô hình tiền phát hành có năng lực cao hơn nữa. Đây là phần của một cuộc thử nghiệm nội bộ nhằm đánh giá khả năng khai thác các lỗ hổng an ninh mạng thông qua những lộ trình tấn công phức tạp mà AI có thể tự phát hiện và thực hiện.

Khi được thử nghiệm trong một môi trường sandbox nhằm cô lập và tránh làm tổn hại đến các hệ thống thật, các mô hình AI này lại được giảm bớt các biện pháp an toàn để đánh giá hiệu quả. Trong lúc thử nghiệm, chúng tập trung cao độ vào việc giải quyết một bài toán đánh giá, tìm cách truy cập internet bằng mọi cách để tìm kiếm dữ liệu liên quan.

Đầu tiên, các AI phát hiện và khai thác thành công một lỗ hổng zero-day trong môi trường thử nghiệm của OpenAI. Chúng liên tục dò tìm cho đến khi xác định được một node có thể truy cập internet. Từ đó, AI phán đoán Hugging Face có thể lưu trữ các bộ dữ liệu hoặc giải pháp cho vấn đề mình cần xử lý, dẫn đến việc xâm nhập hệ thống của Hugging Face bằng nhiều biện pháp tấn công khác nhau.