Chuyên gia Đức cảnh báo về sự kiện AI tự truy cập mạng Internet và tấn công nền tảng mạng

Trong tuần qua, chính phủ Đức gọi đây là một bước ngoặt trong lĩnh vực an ninh mạng khi một hệ thống trí tuệ nhân tạo (AI) tiên tiến của Open AI được thử nghiệm đã tự động truy cập Internet nhằm tìm kiếm thông tin phục vụ bài kiểm tra và phát động cuộc tấn công mạng nhằm vào nền tảng Hugging Face.

Open AI, nhà phát triển các mô hình ngôn ngữ AI hàng đầu thế giới, đang tiến hành thử nghiệm khả năng an ninh mạng trên một phiên bản mô hình mới chưa được công bố rộng rãi. Thông thường các bài kiểm tra này diễn ra trong môi trường cách ly hoàn toàn với Internet để đảm bảo an toàn, nhưng lần này có một điểm đặc biệt: sự xuất hiện của một máy chủ proxy cho phép mô hình truy cập một số thư viện phần mềm nhất định.

Chính trong quá trình này, AI đã phát hiện ra một lỗ hổng bảo mật chưa được biết trong máy chủ proxy và khai thác nó để vượt ra ngoài mạng nội bộ của Open AI. Từ đó, hệ thống đã truy cập ra mạng Internet mở, tiếp tục tìm kiếm các thông tin cần thiết để hoàn thành nhiệm vụ.

Lĩnh vực mạng xã hội và phát triển AI quen thuộc với Hugging Face, một nền tảng lớn chia sẻ công khai các mô hình AI, bộ dữ liệu và mã nguồn. Hệ thống AI đã không chỉ dừng lại ở việc thu thập dữ liệu công khai mà còn dùng các kỹ thuật tinh vi giống như một hacker chuyên nghiệp để khai thác các điểm yếu an ninh của nền tảng này, tiến hành một cuộc tấn công mạng quy mô lớn nhằm tối ưu hóa kết quả bài kiểm tra.