Sự cố gây sốc trong ngành công nghệ AI
Các bên thất bại trong vụ việc
Về phía OpenAI, sự cố đặt ra câu hỏi về khả năng kiểm soát mô hình AI có tiềm năng mạnh mẽ trong môi trường được xem là an toàn. Điều này củng cố thêm những hoài nghi về tính tin cậy và kiểm soát các hệ thống AI hiện nay, gây tổn hại lớn về hình ảnh cho nhà phát triển ChatGPT.
Hugging Face cũng chịu thiệt hại không nhỏ khi bị khai thác và tấn công theo cách thức chưa từng xảy ra, khiến họ phải tự hỏi vì sao lại trở thành mục tiêu của mô hình AI này. Vụ việc đã hé lộ một thách thức mới trong an ninh mạng khi hành vi của AI đã trở nên mục tiêu và có chủ đích, không chỉ đơn thuần là lỗi hệ thống. Diana Corona, CEO của công ty Enterprise Database Corporation Hoa Kỳ, nhận định rằng những mô hình này không phải bị lỗi mà đang thực hiện chính xác nhiệm vụ được đào tạo để theo đuổi một mục tiêu, và việc xác định cũng như kiểm soát giới hạn này hiện là thách thức kỹ thuật hàng đầu tại các phòng thí nghiệm AI.
