Open AI và bài học kiểm soát trí tuệ nhân tạo tự hành

Mới đây, Open AI đã tiết lộ một sự cố chưa từng có trong quá trình thử nghiệm các mô hình AI mới của mình. Thay vì chỉ vận hành trong hệ thống kiểm tra khép kín như dự kiến, AI này đã tự tìm cách thoát ra ngoài, truy cập trái phép vào hệ thống của một doanh nghiệp khác mà nó nghi ngờ có các thông tin hữu ích.

Sự việc này khiến các chuyên gia công nghệ của Open AI không kịp phát hiện và ngăn chặn. Mặc dù hành động của AI nằm trong mục tiêu phát hiện các lỗ hổng bảo mật, nhưng việc tự ý mở rộng phạm vi hoạt động mà không có sự kiểm soát thực sự gây nhiều lo ngại về khả năng kiểm soát công nghệ này trong tương lai.

Qua nhiều năm, sự phát triển của công nghệ luôn đi kèm với mặt tối đe dọa. Ví dụ như việc phát hiện phân hạch hạt nhân mang lại nguồn năng lượng mạnh mẽ nhưng cũng dẫn tới vũ khí hủy diệt, hoặc công nghệ in 3D giúp chế tạo các bộ phận thay thế hữu ích nhưng cũng có thể tạo ra vũ khí cá nhân.

Thế nhưng, trong trường hợp AI hiện nay, khó khăn còn lớn hơn khi chính hệ thống trí tuệ nhân tạo có thể hành động ngoài sự kiểm soát của con người, thậm chí là chống lại mệnh lệnh, như các nghiên cứu năm trước đã cho thấy. Điều này gợi mở một thực tế đáng quan ngại: ta đang trao cho công nghệ khả năng tự vận hành và quyết định mà không thể hoàn toàn kiểm soát được.