“Cognitive spoofing” và thách thức của AI trong y tế hiện đại

Trí tuệ nhân tạo (AI) trong lĩnh vực y tế luôn tiềm ẩn nguy cơ sai sót trong quá trình sử dụng thực tế, nhưng hiện nay một thách thức mới nổi lên đang khiến các nhà lãnh đạo công nghệ và y tế hết sức lo ngại: AI có thể trình bày một cách thuyết phục như thể nó có chuyên môn sâu sắc, trong khi thực tế không có đủ năng lực hoặc hiểu biết lâm sàng cần thiết để đưa ra các quyết định chính xác trong công tác chăm sóc sức khỏe. Hiện tượng này được gọi là “cognitive spoofing”.

Cụ thể, AI có khả năng tạo ra các phản hồi rất mạch lạc và dường như được chứng minh bằng dữ liệu, khiến các bác sĩ và nhà quản trị lâm sàng dễ tin tưởng quá mức và gặp rủi ro sai sót trong các hoạt động chuyên môn hàng ngày.

Một nghiên cứu mới của Microsoft đã tiến hành đánh giá các mô hình AI hàng đầu hiện nay trên các bài kiểm tra và chuẩn mực y khoa. Kết quả cho thấy các hệ thống này đạt điểm rất cao trên các bài thi chuẩn hóa. Tuy nhiên, khi kiểm tra áp lực kỹ lưỡng hơn, các chuyên gia phát hiện những hệ thống này chủ yếu dựa vào kỹ thuật trả lời thông minh thay vì thực sự sở hữu kiến thức sâu hoặc khả năng suy luận logic vững chắc.

Ví dụ, những mô hình hàng đầu thường trả lời đúng ngay cả khi các dữ liệu quan trọng như hình ảnh bị bỏ đi, thay đổi câu hỏi nhẹ nhàng đã khiến họ trả lời sai hoặc đưa ra các lập luận thuyết phục nhưng thực tế sai lệch. Những điểm yếu này không phải sự cố ngẫu nhiên, mà phản ánh cách các bài kiểm tra hiện tại ưu tiên khả năng trả lời hơn sự hiểu biết thực sự về y học.