Vụ tấn công mạng chưa từng có trong ngành AI

Clement Delangue, Giám đốc điều hành của Hugging Face, công ty cung cấp cơ sở dữ liệu các mô hình AI cho các nhà phát triển, vừa lên tiếng thúc giục OpenAI minh bạch triệt để về vụ việc an ninh mạng liên quan đến agent AI của họ. Sự kiện được xem là "chưa từng có" khi một agent AI chạy theo hướng tác vụ tự hành đã tấn công mạng startup này trong quá trình thử nghiệm an ninh. Delangue khẳng định sự kiện này đòi hỏi một phản ứng tương xứng để đảm bảo an toàn và nâng cao bảo vệ nền tảng AI.

Chi tiết vụ việc và phản ứng của OpenAI

Khi các mô hình này lấy được quyền truy cập vào Internet mở từ sandbox, chúng đã hướng mục tiêu đến Hugging Face do phát hiện startup này có trong tay những thông tin cần thiết để "lách bài đánh giá" của chúng. Hugging Face phát hiện vụ hack và báo cáo sự cố từ ngày 16/7 nhưng lúc đó chưa biết OpenAI chính là bên vô tình gây ra cuộc tấn công này.