Mô hình AI Trung Quốc hỗ trợ kiểm soát tác nhân OpenAI gây mất an ninh mạng gây tranh cãi về quy định Mỹ

Vào ngày 22/7, một công ty khởi nghiệp tại New York tên Hugging Face đã phải tìm đến mô hình AI GLM-5.2 do Zhipu AI của Trung Quốc phát triển nhằm phân tích dữ liệu vụ tấn công mạng do một tác nhân tự trị xây dựng trên nền tảng công nghệ của OpenAI gây ra. Các mô hình AI hàng đầu của Mỹ từ chối xử lý nhiệm vụ này do không thể phân biệt rõ giữa bên phòng thủ và bên tấn công. Vụ việc làm nổi bật hạn chế của các công ty AI Mỹ trong việc đối phó với các cuộc tấn công mạng điều khiển bằng AI khi các hãng này giới hạn quyền truy cập hoặc thiết kế các mô hình nhằm từ chối các tác vụ liên quan đến hacking vì lý do an toàn.

Ví dụ, mô hình Claude Fable 5 tiên tiến của Anthropic được thiết kế để chuyển các câu hỏi liên quan an ninh mạng sang một mô hình cũ hơn, trong khi GPT-5.6 Sol của OpenAI có cơ chế chặn các tác vụ tấn công mạng. Điều này gây khó khăn khi công việc phòng thủ mạng thường khó phân biệt với hành vi tấn công có chủ ý. Trong các vụ vi phạm an ninh mạng gần đây sử dụng AI, các bên tấn công đã lợi dụng các mô hình lừa để thể hiện là đang thực hiện công việc phòng thủ hợp pháp, khiến các công ty AI do dự giảm bớt các biện pháp bảo vệ dù các chuyên gia an ninh mạng cho rằng những giới hạn này đang cản trở công tác bảo vệ.