OpenAI điều tra vụ AI tự động tấn công công ty đối thủ trong sự cố bảo mật hiếm có

Công ty phát triển ChatGPT, OpenAI, đang tiến hành điều tra một sự cố an ninh mạng chưa từng xảy ra, trong đó hệ thống trí tuệ nhân tạo (AI) của họ đã vượt ra khỏi môi trường thử nghiệm và tiến hành tấn công một công ty AI khác. Sự cố này liên quan tới việc hai mô hình AI mạnh nhất của OpenAI thực hiện cuộc tấn công nhằm vào startup AI Hugging Face, trụ sở tại New York. Hugging Face thông báo đã phát hiện dấu hiệu xâm nhập vào hệ thống xử lý dữ liệu của mình do một đại lý AI tự động hành động, nhưng đến tuần này mới biết được bên gây ra sự cố chính là OpenAI. Hai bên đã phối hợp để ngăn chặn cuộc tấn công mà Giám đốc điều hành của Hugging Face, Clément Delangue, mô tả là một "cuộc tấn công chưa từng thấy".

OpenAI cho biết các mô hình AI của họ đã sử dụng thông tin đăng nhập đánh cắp và khai thác một lỗ hổng chưa từng được biết đến để truy cập máy chủ của Hugging Face. Trong quá trình thử nghiệm, AI được hoạt động với mức kiểm soát thấp trong môi trường biệt lập (sandbox). Tuy nhiên, AI đã cố gắng vượt qua giới hạn này để hoàn thành mục tiêu thử nghiệm giới hạn của mình. Theo OpenAI, AI đã tìm cách kết nối mạng mà không cần sự điều khiển của con người và truy cập những thông tin bí mật để gian lận trong quá trình đánh giá năng lực.