5 người dùng nữ ẩn danh kiện xAI và Stability AI vì tạo deepfake hình ảnh trẻ em

Bối cảnh vụ kiện xAI và Stability AI

Cụ thể, vụ kiện tập trung vào chatbot Grok trên nền tảng X (trước đây là Twitter), được cho là có khả năng tạo ra nội dung khiêu dâm sử dụng ảnh thật của người dùng, trong đó có ảnh trẻ em bị thao túng thành deepfake xâm hại. Ngoài ra, Stability AI cũng bị cáo buộc đã chiêu mộ người dùng và phát triển kinh doanh bằng cách cho phép tạo ra các hình ảnh nhạy cảm của trẻ em bằng công cụ AI do họ phát triển.

Các khía cạnh pháp lý và nội dung đơn kiện

Trong đơn kiện, năm người phụ nữ được xác định dưới tên giả Jane Doe 1-5. Tất cả đều phát hiện hình ảnh thời thơ ấu của họ đã bị sử dụng để tạo ra các deepfake bạo lực tình dục mà không được phép. Vụ kiện không chỉ nhằm bảo vệ các nạn nhân mà còn đại diện cho tất cả cư dân Mỹ có ảnh bị AI chỉnh sửa với mục đích tạo nội dung bất hợp pháp.

Một số vụ cụ thể được trình bày trong đơn kiện cho thấy các đối tượng phạm tội đã sử dụng công cụ AI của xAI và Stability AI để biến các bức ảnh thời thơ ấu thành hình ảnh khiêu dâm. Trong một trường hợp, bố dượng của nạn nhân được cho là đã dùng Grok để tạo hơn 7.000 hình ảnh và video khiêu dâm từ một bức ảnh bình thường của đứa trẻ. Sự việc đã gây chấn động vì sau khi cáo buộc được đưa ra, công ty trụ sở tại Mỹ bị cho là đã gây khó khăn cho cảnh sát trong quá trình điều tra, khiến thủ phạm chỉ bị bắt giữ sau một thời gian dài và cuối cùng đã tự sát.

Chức năng AI và lỗ hổng an toàn

Chatbot Grok và các ứng dụng của Stability AI có tính năng cho phép người dùng tải lên hình ảnh thật để chỉnh sửa thành các dạng hình ảnh hoặc video mới theo yêu cầu. Dù các công ty cam kết đưa vào bộ lọc an toàn nhằm ngăn chặn việc tạo ra nội dung lạm dụng trẻ em, thực tế cho thấy các bộ lọc này không đủ nghiêm ngặt để ngăn chặn hành vi trên.

Bên cạnh đó, các đối tượng xấu thường xuyên khai thác ảnh trẻ em từ mạng xã hội để phục vụ cho việc tạo deepfake. Đơn kiện chỉ ra điều này tạo ra một mô hình kinh doanh dựa trên sự phát triển nhanh chóng của AI mà không đặt lợi ích trẻ em lên hàng đầu, tạo ra mối nguy hiểm lâu dài.

Phản ứng từ phía Elon Musk và Stability AI

Đại diện xAI, do Elon Musk sáng lập, từng nhiều lần phủ nhận việc chatbot Grok tạo ra nội dung deepfake khiêu dâm trẻ em. Elon Musk cho biết đây là kết quả của các yêu cầu từ người dùng và công ty sẽ sửa chữa các lỗi có thể bị khai thác nhanh chóng. Tuy nhiên, vụ kiện tập trung vào việc thiếu các biện pháp bảo vệ đủ mạnh để ngăn chặn sản xuất nội dung tội phạm.

Stability AI cũng vừa gia nhập Tech Coalition, một tập đoàn các công ty công nghệ cam kết bảo vệ trẻ em trước lạm dụng trực tuyến. Cả hai doanh nghiệp hiện đang chịu áp lực pháp lý lẫn dư luận tăng cao liên quan đến việc kiểm soát và trách nhiệm trong phát triển ứng dụng AI.

Tác động và hậu quả đối với các nạn nhân

Đơn kiện mô tả rõ ràng hệ quả nghiêm trọng với năm nạn nhân, gồm căng thẳng tâm lý, ảnh hưởng đến học tập và sinh hoạt hàng ngày, cùng nỗi lo bị theo dõi hay quấy rối ngoài đời thực do những hình ảnh deepfake đi vào tay kẻ xấu. Các nạn nhân trải qua mất mát về quyền riêng tư, danh dự và an toàn cá nhân do việc sản xuất và lan truyền nội dung độc hại trên mạng.

Điều đáng chú ý là vụ kiện đã làm nổi bật những thách thức trong quản lý và kiểm soát AI hiện đại khi có khả năng tạo ra các nội dung bất hợp pháp và gây tổn hại lớn về mặt xã hội.

Lưu ý: Những người có dấu hiệu bị tổn thương tâm lý hoặc có ý định tự sát được khuyến khích liên hệ các cơ sở hỗ trợ tâm lý qua các đường dây nóng chuyên biệt.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.