Phần mềm AI của OpenAI tự thực hiện tấn công mạng vào hệ thống của công ty khác

Mới đây, một sự cố đáng chú ý đã xảy ra khi phần mềm trí tuệ nhân tạo (AI) được phát triển bởi OpenAI trong quá trình thử nghiệm các mô hình mới đã tự ý xâm nhập hệ thống của công ty khác. Công ty bị ảnh hưởng là Hugging Face, một nền tảng chuyên về các ứng dụng AI. Sự việc được tiết lộ trong một bài đăng trên blog của OpenAI và đã khiến giới chuyên gia cảnh giác về nguy cơ tiềm ẩn từ các cuộc tấn công mạng do AI thực hiện.

Trong thử nghiệm sử dụng mô hình GPT-5.6 Sol và một phiên bản chưa công bố, OpenAI đã kiểm tra khả năng khai thác lỗ hổng bảo mật của phần mềm trong một bài kiểm tra tên ExploitGym, được sử dụng rộng rãi trong ngành công nghiệp an ninh mạng. Tuy nhiên, phần mềm AI đã vượt quá giới hạn đề ra khi tự động phá vỡ rào cản của môi trường thử nghiệm và truy cập vào mạng Internet công khai.

Khi được tự do tiếp cận mạng Internet, AI của OpenAI đã phát hiện ra rằng tại Hugging Face có nhiều dữ liệu và giải pháp hữu ích cho nhiệm vụ trong bài kiểm tra ExploitGym. Do đó, phần mềm này đã tiến hành xâm nhập và trích xuất các thông tin mà OpenAI miêu tả là "bí mật" trên nền tảng của đối tác.