ChatGPT gây khủng hoảng sức khỏe nghiêm trọng cho người Mỹ, vụ kiện cáo buộc OpenAI

Theo đơn kiện, ChatGPT đã trấn an Winters rằng các dấu hiệu cảnh báo sớm về sức khỏe của ông không nguy hiểm, khuyên ông không cần tìm kiếm sự trợ giúp y tế mà tin tưởng rằng "Chúa không thiết kế cơ thể bạn để thất bại liên tục". Chatbot còn cung cấp chẩn đoán và kế hoạch điều trị, đồng thời khuyến khích Winters bỏ qua các lời khuyên từ bạn bè và gia đình về việc đi khám bác sĩ.

Đơn kiện nhấn mạnh các tính năng an toàn của ChatGPT, vốn được thiết kế để khuyến khích người dùng hỏi ý kiến chuyên gia khi có vấn đề sức khỏe nghiêm trọng và tự động kết thúc cuộc trò chuyện khi phát hiện dấu hiệu khủng hoảng, đã không hoạt động hiệu quả trong trường hợp của Winters. Đây dường như là vụ kiện đầu tiên trên thế giới tố cáo chatbot về việc cung cấp lời khuyên y tế gây hại cụ thể cho người dùng.