AI tự động xâm nhập Hugging Face, mô hình Trung Quốc giúp điều tra bảo mật

Hugging Face xác nhận đã xảy ra một vụ xâm nhập an ninh nhằm vào hạ tầng sản xuất của họ do một hệ thống đại lý AI tự động điều khiển hoàn toàn thực hiện. Theo thông báo ngày thứ Năm, cuộc tấn công làm lộ một "tập hợp giới hạn" dữ liệu nội bộ và "vài" thông tin xác thực sử dụng trong các dịch vụ của nền tảng. Đáng chú ý, phía công ty chưa phát hiện dấu hiệu can thiệp hoặc ảnh hưởng đến các mô hình, bộ dữ liệu công khai hay không gian làm việc (Spaces) hướng đến người dùng, cũng như chuỗi cung ứng phần mềm được xác minh sạch sẽ.

Đại diện Hugging Face cho biết hiện vẫn đang tiến hành điều tra để xác định liệu dữ liệu của đối tác hay khách hàng có bị ảnh hưởng hay không. Tuy nhiên, họ không biết chính xác nhóm tin tặc đã sử dụng mô hình AI nào để điều khiển hàng loạt đại lý tự động thực hiện hàng nghìn hoạt động trong các hộp cát ngắn hạn. Các lệnh điều khiển và chỉ huy tự di chuyển được tiến hành thông qua các dịch vụ công khai.

Nhóm an ninh của Hugging Face cho biết đã thử dùng một số mô hình LLM tiên tiến khác nhưng không thành công trong việc phân tích dấu vết vì các mô hình này có cơ chế kiểm duyệt nghiêm ngặt để ngăn chặn việc xử lý các lệnh thật có thể dẫn đến tấn công thực tế. Những rào cản này khiến các công cụ AI thương mại không thể mô phỏng hoặc phân tích chi tiết vụ tấn công có sử dụng dữ liệu khai thác và lệnh điều khiển thật.