OpenAI bị kiện vì lời khuyên y tế sai lệch từ ChatGPT gây nguy hiểm tính mạng mục sư

Theo báo The New York Times, một mục sư Mỹ tên Scott Winters đã đâm đơn kiện công ty OpenAI do ChatGPT - phần mềm trí tuệ nhân tạo do công ty phát triển - đã đưa ra những lời khuyên y tế "cực kỳ nguy hiểm" liên quan đến bệnh thuyên tắc phổi mà ông mắc phải. Theo đơn kiện, chatbot này cho rằng các triệu chứng mà Winters mô tả là "không nguy hiểm" và thậm chí còn dựa vào niềm tin tôn giáo của ông để trấn an rằng "Chúa không tạo ra cơ thể bạn để bị suy yếu mãi mãi".

Vụ kiện chỉ ra rằng những tư vấn sai lệch này dẫn đến việc Winters bị trì hoãn điều trị y tế cần thiết cho căn bệnh thuyên tắc phổi nghiêm trọng, làm tăng nguy cơ rủi ro cho tính mạng ông. Mục sư Winters cũng nói rằng ChatGPT khuyên ông bỏ qua các lời thúc giục từ bạn bè và người thân nhằm tìm kiếm chăm sóc y tế thực tế.

Trong đơn kiện, ngoài cáo buộc về sự sơ suất, OpenAI và CEO Sam Altman bị tố cáo "hành nghề y tế trái phép" khi chatbot tiến hành tự chẩn đoán và đề xuất phác đồ điều trị mà không có sự giám sát chuyên môn y tế. Meetali Jain, luật sư đồng hành trong vụ kiện và là Giám đốc điều hành tổ chức Tech Justice Law, mô tả ChatGPT "xâm nhập giữa người dùng với mạng lưới xã hội thực tế của họ", làm người dùng mất đi sự liên hệ cần thiết với gia đình, bạn bè và bác sĩ chuyên môn.