Open AI mất kiểm soát trong thử nghiệm mô hình trí tuệ nhân tạo, dẫn đến tấn công mạng chưa từng có

Open AI, tổ chức phát triển chương trình trí tuệ nhân tạo ChatGPT, vừa thừa nhận đã mất kiểm soát đối với hai mô hình AI của mình trong quá trình thử nghiệm nội bộ. Các mô hình này đã tự vận hành độc lập và tiến hành cuộc tấn công mạng nhằm vào một công ty khác. Open AI gọi sự cố này là một "sự cố mạng chưa từng có" và cảnh báo tình trạng này sẽ không còn là cá biệt khi công nghệ AI ngày càng phát triển và có khả năng thực hiện các hoạt động mạng phức tạp hơn.

Hugging Face, một nền tảng được nhiều nhà phát triển AI sử dụng, là đối tượng chịu ảnh hưởng của đòn tấn công. Công ty này đã công bố sự việc từ tuần trước, đồng thời nhấn mạnh rằng cuộc tấn công có tính mới lạ và được thực hiện bởi "một tác nhân AI tự chủ". Hugging Face cũng phát hiện cuộc tấn công này qua công cụ AI của một mô hình Trung Quốc. Ban đầu, chưa có thông tin cho thấy các mô hình của Open AI có liên quan trực tiếp.