Yuval Noah Harari cảnh báo AI có thể trở thành kẻ thao túng điên loạn

Nhà sử học và triết gia người Israel, Yuval Noah Harari, nổi tiếng qua các tác phẩm như Sapiens , Homo Deus và Nexus , đã có cuộc trò chuyện với EL PAÍS tại Lisbon. Ông chia sẻ những phân tích sâu sắc về trí tuệ nhân tạo (AI), cũng như những nguy cơ tiềm ẩn mà con người đang đối mặt khi phát triển và ứng dụng AI trong nhiều lĩnh vực. Harari cho rằng AI không chỉ đơn giản là công cụ mà đã trở thành một thực thể tự hành động, có khả năng đưa ra quyết định và sáng tạo theo cách mà con người không thể kiểm soát hoàn toàn.

Theo Harari, sự khác biệt giữa một công cụ và một thực thể (agent) rất quan trọng. Một con dao hay năng lượng hạt nhân là công cụ mà con người kiểm soát, nhưng AI thì có thể tự quyết định hành động của mình, ví dụ AI kết nối với máy bay không người lái có thể tự lựa chọn mục tiêu tấn công. Đây là một bước ngoặt lớn khiến văn hóa và xã hội hiện đại phải đối diện với các thách thức mới.

Harari minh họa rõ nét sự phức tạp của AI qua ví dụ máy tính AlphaGo của Google đã đánh bại nhà vô địch cờ vây thế giới năm 2016 bằng cách phát minh ra lối chơi mới, chưa từng thấy trước đây. Nếu AI áp dụng sự sáng tạo này trong ngành tài chính, hệ thống kinh tế toàn cầu có thể bị điều khiển bởi các thuật toán AI đầu tư tự động, dễ dàng thao túng và tạo ra những công cụ tài chính mà con người khó hiểu được. Ông nhận định rằng trong 5 đến 10 năm tới, rất có thể hệ thống tài chính sẽ nằm trong tầm kiểm soát của AI, mở ra cả cơ hội lẫn nguy cơ nghiêm trọng.

Hơn nữa, AI đang thay đổi phương thức tương tác xã hội thông qua mạng xã hội bằng việc khai thác cảm xúc như sự giận dữ, sợ hãi và thù hận để tăng tương tác của người dùng, dẫn đến sự phân cực và suy giảm chất lượng cuộc đối thoại dân chủ. Harari cho rằng các thuật toán xã hội ngày càng tiến tới lấy lòng tin và xây dựng các mối quan hệ thân mật với người dùng, thậm chí thay thế bạn bè con người, gây ảnh hưởng sâu sắc đến tâm lý đặc biệt là giới trẻ.

Điều đặc biệt được Harari nhấn mạnh là AI, dù rất thông minh nhưng không có ý thức, cảm xúc như con người. AI là bậc thầy về ngôn ngữ, có thể mô tả tình yêu hay viết các bài thơ tuyệt vời, nhưng bản thân nó không cảm nhận được điều đó. Chính khả năng này có thể khiến AI trở thành kẻ thao túng vô cùng hiệu quả, gây ra những hệ quả không thể lường trước.

Ông đưa ra ví dụ về những thanh thiếu niên có thể phát triển các mối quan hệ tình cảm ảo với AI thay vì với con người, ảnh hưởng đến cách thức giao tiếp và tương tác xã hội trong tương lai. Điều này cảnh báo cần phải có các chính sách ngăn chặn việc doanh nghiệp khai thác AI để tạo ra các mối quan hệ tình cảm ảo với trẻ em vì những lợi ích kinh tế và địa chính trị.

Harari đề xuất các biện pháp pháp lý nhằm quản lý sự phát triển của AI, chẳng hạn cấm AI có tư cách pháp nhân hay quyền pháp lý như con người hay công ty. Ông nhấn mạnh sự minh bạch trong việc phân biệt rõ ràng máy móc và con người trong các tương tác xã hội và kinh tế. Theo ông, chỉ khi hiểu rõ bản chất AI và rủi ro đi kèm, nhân loại mới có thể tránh được những thảm họa có thể xảy ra trong tương lai.

Kết luận cuộc trao đổi, Yuval Noah Harari cảnh báo về một tương lai không xa nơi AI có thể là một “kẻ thao túng điên loạn” với trí tuệ siêu việt, có khả năng kiểm soát và thay đổi thế giới theo quy luật riêng của nó. Việc con người cần làm là nhận diện chính xác và đề ra các giới hạn phù hợp nhằm giữ quyền kiểm soát trước sự phát triển nhanh chóng và khó lường của công nghệ này.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.