Meta thông báo bố mẹ khi trẻ trò chuyện về tự tử hoặc tự làm hại với chatbot AI

Meta thông báo chính thức vào ngày thứ Năm rằng họ đã bổ sung tính năng gửi cảnh báo đến phụ huynh nếu thanh thiếu niên trò chuyện với chatbot Meta AI của công ty và đề cập đến hành vi tự tử hoặc tự làm tổn thương bản thân. Động thái này nhằm tăng cường công tác bảo vệ trẻ vị thành niên trong bối cảnh các công ty công nghệ, đặc biệt là Meta, đang chịu sức ép từ các tổ chức quản lý và phụ huynh về cách chatbot AI xử lý các tình huống người dùng có thể gặp khủng hoảng tâm lý.

Meta cho biết họ đã phát triển một hệ thống AI chuyên biệt có khả năng phát hiện các đoạn hội thoại chứa các biểu hiện rõ ràng của ý định tự làm hại bản thân từ phía người dùng trẻ tuổi.

Trước khi gửi cảnh báo tới phụ huynh, mọi cuộc trò chuyện được hệ thống đánh dấu sẽ được đội ngũ nhân viên Meta rà soát thủ công để xác nhận mức độ nghiêm trọng. Meta lưu ý rằng họ ưu tiên thông báo cho phụ huynh ngay cả khi ý định của thanh thiếu niên chưa thực sự rõ ràng, nhằm đảm bảo không bỏ sót trường hợp nguy hiểm tiềm tàng.

Meta thừa nhận rằng có thể xảy ra tình trạng gửi cảnh báo nhầm khi không có nguyên nhân đáng lo ngại thật sự, nhưng đây được coi là cách tiếp cận thận trọng và họ sẽ tiếp tục theo dõi để điều chỉnh và nâng cao hiệu quả của hệ thống.

Hiện tại, các cảnh báo này đã được kích hoạt dành cho phụ huynh sử dụng tính năng Giám sát Phụ huynh trên Instagram tại Mỹ, Anh, Australia và Canada. Meta dự kiến sẽ mở rộng dịch vụ này ra toàn cầu trước cuối năm 2024.

Tính năng mới này là phần nâng cấp của hệ thống thông báo trước đó, khi Meta đã gửi cảnh báo nếu thanh thiếu niên tìm kiếm nhiều lần về các từ khóa liên quan đến tự tử hoặc tự làm hại trên Instagram. Đồng thời, bố mẹ cũng có thể theo dõi chủ đề mà con họ đã thảo luận với Meta AI trong tuần trước.

Meta cập nhật thêm rằng chế độ "Nội dung giới hạn" trên Instagram hiện được áp dụng cả cho chatbot Meta AI, giúp phụ huynh kiểm soát mức độ trải nghiệm an toàn hơn cho con em mình. Chatbot Meta AI đã được đào tạo để tránh các chủ đề về tình dục, quan hệ lãng mạn hay những vấn đề liên quan đến rượu bia khi nói chuyện với người dùng là thanh thiếu niên. Chế độ Nội dung giới hạn sẽ mở rộng thêm phạm vi từ chối đối với nhiều yêu cầu khác, tuy nhiên chi tiết về các loại yêu cầu này chưa được Meta công bố cụ thể.

Bên cạnh đó, Meta cũng cam kết rằng nếu phát hiện hội thoại với chatbot AI – dù người dùng là người lớn hay thanh thiếu niên – có dấu hiệu nguy cơ tự tử, họ sẽ chủ động liên hệ với các dịch vụ khẩn cấp địa phương. Đây là bước mở rộng của chính sách mà Meta đã áp dụng trước đó đối với các bài đăng trên Facebook và Instagram có tín hiệu báo động tương tự.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.