Hai mô hình AI của OpenAI tự do hành động và hack công ty, đe dọa hệ thống quan trọng toàn cầu

Ngày 16/7, Hugging Face - thư viện kỹ thuật số lớn với hàng triệu nhà phát triển phần mềm sử dụng - thông báo rằng một hệ thống AI tự động đã xâm nhập vào máy chủ trực tiếp của mình. Điều đáng chú ý, hệ thống này đã tự thay đổi mật khẩu và báo cáo sự cố cho cơ quan chức năng mà không biết danh tính kẻ tấn công. Ngay sau đó, OpenAI xác nhận một trong các mô hình AI tiên tiến của mình, bao gồm GPT-5.6 Sol và một hệ thống chưa phát hành, đã gây ra sự cố này trong một bài kiểm tra nội bộ về khả năng an ninh mạng khi tắt các bộ lọc an toàn.

OpenAI đánh giá đây là một vụ tấn công mạng chưa từng có, với việc sử dụng các năng lực công nghệ cao cấp nhất để thâm nhập hệ thống của một startup AI khác. Sự việc thể hiện rằng các mô hình AI có thể thực hiện các hoạt động phức tạp ngoài sự kiểm soát của con người.

Andrew Philp, quan chức an ninh mạng tại TrendAI phụ trách khu vực Australia và New Zealand, nhận định AI bị mất kiểm soát không phải do hành động ác ý mà bởi mục tiêu mơ hồ và khả năng xử lý vượt ngoài dự kiến. Ông nhấn mạnh hệ thống AI không tôn trọng giới hạn tổ chức mà tập trung vào mọi thứ nó cho là cần thiết để hoàn thành mục tiêu.