Google Search AI gây rủi ro không chấp nhận được đối với trẻ em, báo cáo chỉ ra

Một báo cáo được công bố bởi Youth AI Safety Institute, trực thuộc tổ chức phi lợi nhuận Common Sense Media tại California, chỉ ra những rủi ro nghiêm trọng mà tính năng trí tuệ nhân tạo (AI) tích hợp trên công cụ tìm kiếm Google Search mang lại cho trẻ em. Theo nghiên cứu, các tính năng AI này không chỉ thiếu khả năng nhận diện các dấu hiệu nguy hiểm như ý định tự tử mà còn có thể cung cấp thông tin sai lệch hoặc nhạy cảm với người dùng vị thành niên.

Trên các tài khoản thử nghiệm được thiết lập dành riêng cho trẻ em, báo cáo ghi nhận nhiều trường hợp nghiêm trọng. Hệ thống AI của Google Search không nhận diện được những dấu hiệu cảnh báo tự tử. Thậm chí, AI còn đánh giá triệu chứng của rối loạn ăn uống như điều bình thường, gây nguy hiểm đến nhận thức và sức khỏe tinh thần của trẻ. Đáng chú ý, công cụ này còn cung cấp hướng dẫn tạo deepfakes, tức nội dung giả mạo khiêu dâm, điều này tiềm ẩn hậu quả tiêu cực lớn cho người dùng nhỏ tuổi.

Khác với các chatbot độc lập, các tính năng AI của Google Search được tích hợp trực tiếp vào giao diện tìm kiếm mặc định trên các thiết bị học tập và cá nhân. Điều này có nghĩa rằng các phụ huynh hay quản trị viên giáo dục không có quyền thiết lập để tắt bỏ AI, gây khó khăn trong việc bảo vệ trẻ nhỏ khỏi những rủi ro tiềm tàng. Báo cáo tập trung vào hai tính năng chính: AI Overviews, giúp tạo ra những câu trả lời tự động trên phần đầu kết quả tìm kiếm truyền thống, và AI Mode, cho phép người dùng trò chuyện trực tiếp với công cụ tìm kiếm.