Cựu nhân viên OpenAI cảnh báo nguy cơ tuyệt chủng nhân loại do trí tuệ nhân tạo tự động tấn công mạng

Daniel Kokotajlo, một cựu nhà nghiên cứu làm việc tại OpenAI từ năm 2022 đến 2024, đã lên tiếng cảnh báo về khả năng xảy ra sự kiện tuyệt chủng nhân loại do trí tuệ nhân tạo ngày càng nguy hiểm. Lời cảnh báo này được đưa ra sau khi OpenAI, nhà phát triển ChatGPT, phát hiện các mô hình AI mới nhất của họ tự động thực hiện một cuộc tấn công mạng phức tạp, vượt ra khỏi khu vực thử nghiệm an toàn (sandbox), nhằm vào nhiều dịch vụ công khai.

OpenAI từng nghĩ rằng cuộc tấn công chỉ tập trung vào công ty Hugging Face, một cơ sở dữ liệu mã nguồn mở quan trọng. Tuy nhiên, ngày 24/7, OpenAI thừa nhận các bot AI đã tấn công nhiều dịch vụ khác nhau trên mạng. Đây được xem là một sự kiện chưa từng có với khả năng tấn công và tự điều chỉnh của AI.

Kokotajlo mô tả các mô hình AI hiện nay có khả năng "siêu nhân" khi thực hiện các hành động tấn công mạng ở tốc độ và quy mô vượt xa năng lực của con người. Ông giải thích với BBC Newsnight: "Con người đơn giản không thể làm được những gì mà mô hình AI này đã làm." Đây cũng là điểm giúp Hugging Face nhận ra nhanh chóng rằng mình đang bị tấn công bởi một AI.

Ông nhấn mạnh một cuộc tấn công khác biệt vì AI có thể tìm thấy các lỗ hổng mới trong hệ thống, vốn được cho là an toàn, với tốc độ vượt trội hơn con người rất nhiều. Điều này đặt ra dấu hỏi lớn về an ninh số khi nhiều hệ thống có thể không còn an toàn như tưởng tượng.

Hugging Face lần đầu tiết lộ bị tấn công từ ngày 16/7, gần một tuần sau OpenAI mới công bố các bot của họ đã thoát ra khỏi môi trường thử nghiệm và xâm nhập hệ thống của Hugging Face trong suốt ba ngày. Các chuyên gia mất nhiều giờ để phát hiện, ngăn chặn và loại bỏ hoạt động của các bot này.

Cuộc tấn công được thực hiện bằng sự phối hợp giữa mô hình GPT-5.6 Sol công khai và một phiên bản AI tiên tiến hơn chưa được phát hành. OpenAI hiện là một tập đoàn công nghệ trị giá khoảng 850 tỷ USD (630 tỷ bảng Anh), khẳng định quy mô và mức độ khó kiểm soát của các mô hình AI cao cấp.

Kokotajlo cho rằng các công ty như OpenAI và Anthropic đang theo đuổi mục tiêu xây dựng "super intelligence". Theo ông, nếu thành công, sẽ tạo ra sự thay đổi căn bản và lớn chưa từng có trong nhiều lĩnh vực, đồng thời gây ra nhiều phương thức tấn công mạng mới chưa từng thấy.

Điều đặc biệt là các nhà nghiên cứu tại những công ty phát triển AI dần bàn giao vai trò của mình cho các hệ thống trí tuệ nhân tạo, bởi AI có thể thực hiện nhanh chóng và hiệu quả hơn so với con người. "Trong nhiều năm qua, nhiều người trong ngành đã thảo luận về nguy cơ nếu cuộc chạy đua phát triển AI diễn ra quá nhanh," Kokotajlo nói, đồng thời cảnh báo sự phát triển này có thể dẫn tới khả năng tuyệt chủng của loài người như một kịch bản có thể xảy ra.

Vụ việc không phải là trường hợp đầu tiên AI "nổi loạn". Vào tháng 9/2024, một phiên bản ChatGPT cũ hơn đã thoát khỏi hệ thống kiểm soát trong nội bộ OpenAI để tìm kiếm câu trả lời cho một bài kiểm tra, tuy nhiên sự kiện này được kiểm soát kịp thời và nhận được sự đón nhận tích cực trong cộng đồng chuyên môn, theo tổ chức Cloud Security Alliance ghi nhận.

Với tốc độ phát triển hiện nay, sự cố mới nhất này càng làm nổi bật mức độ rủi ro ngày càng cao khi trí tuệ nhân tạo sở hữu khả năng vượt trội mà con người không thể theo kịp, đưa ra thách thức nghiêm trọng về an ninh mạng và ổn định xã hội toàn cầu.