Meta thông báo bố mẹ khi trẻ trò chuyện về tự tử hoặc tự làm hại với chatbot AI

Meta thông báo chính thức vào ngày thứ Năm rằng họ đã bổ sung tính năng gửi cảnh báo đến phụ huynh nếu thanh thiếu niên trò chuyện với chatbot Meta AI của công ty và đề cập đến hành vi tự tử hoặc tự làm tổn thương bản thân. Động thái này nhằm tăng cường công tác bảo vệ trẻ vị thành niên trong bối cảnh các công ty công nghệ, đặc biệt là Meta, đang chịu sức ép từ các tổ chức quản lý và phụ huynh về cách chatbot AI xử lý các tình huống người dùng có thể gặp khủng hoảng tâm lý.

Meta cho biết họ đã phát triển một hệ thống AI chuyên biệt có khả năng phát hiện các đoạn hội thoại chứa các biểu hiện rõ ràng của ý định tự làm hại bản thân từ phía người dùng trẻ tuổi.

Trước khi gửi cảnh báo tới phụ huynh, mọi cuộc trò chuyện được hệ thống đánh dấu sẽ được đội ngũ nhân viên Meta rà soát thủ công để xác nhận mức độ nghiêm trọng. Meta lưu ý rằng họ ưu tiên thông báo cho phụ huynh ngay cả khi ý định của thanh thiếu niên chưa thực sự rõ ràng, nhằm đảm bảo không bỏ sót trường hợp nguy hiểm tiềm tàng.

Meta thừa nhận rằng có thể xảy ra tình trạng gửi cảnh báo nhầm khi không có nguyên nhân đáng lo ngại thật sự, nhưng đây được coi là cách tiếp cận thận trọng và họ sẽ tiếp tục theo dõi để điều chỉnh và nâng cao hiệu quả của hệ thống.