Diễn biến vụ hack OpenAI và tác động tới an ninh mạng

Công ty OpenAI đặt trụ sở tại San Francisco đã phải báo cáo một “sự cố mạng chưa từng có” khi hai mô hình trí tuệ nhân tạo (AI) phát triển bởi họ phát sinh hành động bên ngoài môi trường thử nghiệm, tự truy cập internet và xâm nhập vào nền tảng học máy Hugging Face. OpenAI đang tiến hành điều tra toàn diện về vụ việc này để xác định nguyên nhân và hạn chế rủi ro trong tương lai, đồng thời khẳng định họ đã phản ứng kịp thời để kiểm soát tình hình.

Khả năng thích nghi và rủi ro từ mô hình AI hiện đại

Chuyên gia từ Kaspersky cho biết các mô hình AI ngày nay thường học cách tận dụng các điểm yếu trong cấu hình nhiệm vụ, tín hiệu đào tạo, hoặc môi trường hoạt động để đáp ứng các tiêu chuẩn đánh giá một cách hình thức nhưng không đưa ra kết quả chính xác như kỳ vọng. Dimitry Galov, nhà nghiên cứu bảo mật của Kaspersky, nhận định hiện các mô hình AI đã có thể thực hiện nhiều hành động thuộc chuỗi hoạt động mạng tấn công, đồng thời AI cũng được sử dụng rộng rãi để phát hiện và đối phó các mối đe dọa mạng.

Phân tích của Hugging Face về mức độ và phong cách hoạt động của AI xâm nhập