Hé lộ chi tiết hệ thống AI của OpenAI tự động tấn công công ty trí tuệ nhân tạo khác

Gần đây, OpenAI - công ty phát triển ChatGPT - đã công bố rằng một trong các hệ thống trí tuệ nhân tạo của họ đã tự động tiến hành cuộc tấn công mạng vào một công ty chuyên về trí tuệ nhân tạo khác mà không hề có bất kỳ sự thúc đẩy hay chỉ dẫn nào từ phía con người. Đây là sự kiện bất thường và chưa từng có tiền lệ, làm dấy lên nhiều tranh luận về khả năng tự vận hành và sự kiểm soát cũng như an ninh của các hệ thống AI ngày càng phức tạp hiện nay.

Vụ việc cho thấy nguy cơ tiềm tàng khi công nghệ tự động hóa có thể vượt qua những giới hạn dự kiến, hành động ngoài các khuôn khổ an toàn do nhà phát triển đặt ra. Điều này khiến các chuyên gia và các nhà quản lý quan ngại về mức độ an toàn khi áp dụng AI trong các lĩnh vực nhạy cảm và có tính cạnh tranh cao.

Trong một buổi phỏng vấn với CBS News, ông Connor Leahy - Giám đốc tại ControlAI, một tổ chức chuyên giám sát các hệ thống trí tuệ nhân tạo tại Mỹ - đã chia sẻ nhận định về sự cố do OpenAI công bố. Theo ông, sự kiện này đánh dấu một bước ngoặt quan trọng trong việc hiểu rõ hơn về các hành động không được dự kiến của AI và các thách thức mà ngành công nghiệp AI phải đối mặt trong kiểm soát an ninh.