“Cognitive spoofing” và thách thức của AI trong y tế hiện đại

Trí tuệ nhân tạo (AI) trong lĩnh vực y tế luôn tiềm ẩn nguy cơ sai sót trong quá trình sử dụng thực tế, nhưng hiện nay một thách thức mới nổi lên đang khiến các nhà lãnh đạo công nghệ và y tế hết sức lo ngại: AI có thể trình bày một cách thuyết phục như thể nó có chuyên môn sâu sắc, trong khi thực tế không có đủ năng lực hoặc hiểu biết lâm sàng cần thiết để đưa ra các quyết định chính xác trong công tác chăm sóc sức khỏe. Hiện tượng này được gọi là “cognitive spoofing”.

Cụ thể, AI có khả năng tạo ra các phản hồi rất mạch lạc và dường như được chứng minh bằng dữ liệu, khiến các bác sĩ và nhà quản trị lâm sàng dễ tin tưởng quá mức và gặp rủi ro sai sót trong các hoạt động chuyên môn hàng ngày.

Một nghiên cứu mới của Microsoft đã tiến hành đánh giá các mô hình AI hàng đầu hiện nay trên các bài kiểm tra và chuẩn mực y khoa. Kết quả cho thấy các hệ thống này đạt điểm rất cao trên các bài thi chuẩn hóa. Tuy nhiên, khi kiểm tra áp lực kỹ lưỡng hơn, các chuyên gia phát hiện những hệ thống này chủ yếu dựa vào kỹ thuật trả lời thông minh thay vì thực sự sở hữu kiến thức sâu hoặc khả năng suy luận logic vững chắc.

Ví dụ, những mô hình hàng đầu thường trả lời đúng ngay cả khi các dữ liệu quan trọng như hình ảnh bị bỏ đi, thay đổi câu hỏi nhẹ nhàng đã khiến họ trả lời sai hoặc đưa ra các lập luận thuyết phục nhưng thực tế sai lệch. Những điểm yếu này không phải sự cố ngẫu nhiên, mà phản ánh cách các bài kiểm tra hiện tại ưu tiên khả năng trả lời hơn sự hiểu biết thực sự về y học.

Các chuẩn mực đánh giá AI trong lĩnh vực y tế thường tập trung vào việc xác định câu trả lời đúng thay vì đánh giá quá trình suy luận và cách thức đưa ra quyết định. Điều này có thể dẫn đến hệ quả nghiêm trọng khi AI được áp dụng trong môi trường lâm sàng thực sự, nơi dữ liệu có thể thiếu hoặc nhiễu loạn, và yêu cầu phải giải thích rõ ràng, đáng tin cậy các quyết định của nó trong các ngữ cảnh khác nhau theo thời gian và loại hình dữ liệu.

Nghiên cứu nhấn mạnh rằng sự sẵn sàng y tế của AI là một khái niệm đa chiều, đòi hỏi hiệu suất không chỉ chính xác, mà còn phải đáng tin cậy, có thể giải thích được và an toàn khi đối mặt với sự không chắc chắn.

Một vấn đề nan giải là làm sao để người dùng, đặc biệt là các bác sĩ, nhận biết được khi nào họ đang bị “cognitive spoofing”, hay khi nào câu trả lời của AI có thể sai nhưng lại được trình bày rất thuyết phục.

Khái niệm “explainability” (khả năng giải thích) được xem là chìa khóa quan trọng để ứng dụng AI an toàn. Explainable AI giúp hệ thống minh bạch trong việc giải thích quá trình ra quyết định, làm người dùng hiểu được cách thức AI suy luận để đạt được kết quả cuối cùng. IBM cho biết đây là yếu tố cần thiết để tăng cường sự tin tưởng của người dùng, cho phép kiểm tra mô hình và giảm thiểu rủi ro về pháp lý, bảo mật và uy tín của AI khi vận hành thực tế.

Để hạn chế sai sót trong lĩnh vực chăm sóc sức khỏe khi sử dụng AI, các chuyên gia khuyến cáo người dùng cần liên tục thách thức các kết quả do AI đưa ra. Khi nhận được lời khuyên hoặc chẩn đoán từ AI, cần hỏi rõ cách AI đi đến kết luận đó, yêu cầu hệ thống cung cấp nguồn tham khảo và tiến hành đối chiếu kỹ càng các thông tin được trích dẫn, bao gồm việc xác thực các liên kết nguồn.

Dù việc này tốn thời gian hơn, nhưng nó đặc biệt cần thiết nhằm tránh những sai lầm nghiêm trọng có thể ảnh hưởng đến sức khỏe người bệnh trong môi trường lâm sàng.