San Francisco yêu cầu Apple và Google gỡ bỏ các ứng dụng 'nudify' khỏi kho App Store

Thành phố San Francisco, Mỹ, đã chính thức yêu cầu hai tập đoàn công nghệ lớn Apple và Google phải gỡ bỏ khỏi kho ứng dụng của họ hàng chục ứng dụng thuộc loại “nudify”. Đây là loại phần mềm sử dụng công nghệ số để tái tạo hình ảnh nhằm làm lộ người trong các bức ảnh đã được chỉnh sửa.

Lệnh này dựa trên luật của bang California, nơi không chỉ nghiêm cấm mọi hoạt động “cố ý tạo điều kiện” hoặc “hỗ trợ một cách liều lĩnh” việc sản xuất các nội dung khiêu dâm giả mạo sâu (deepfake) không có sự đồng thuận mà còn cho phép các nạn nhân có thể kiện các bên thứ ba hỗ trợ phát tán các nội dung như vậy theo quy định pháp luật có hiệu lực từ năm 2025.

Ông David Chiu, Luật sư thành phố San Francisco, đã gửi thư phản ánh đến Apple và Google, cho biết hai công ty này đang kiếm lợi từ những ứng dụng khai thác đối tượng là phụ nữ và trẻ gái bằng cách tạo ra các video deepfake thân mật mà không được sự đồng ý của người trong ảnh.

Thư gửi đến Apple và Google cảnh báo rằng mặc dù đã được cảnh báo từ lâu về việc xử lý thanh toán cho các ứng dụng vi phạm, hai công ty này vẫn tiếp tục lưu trữ và thu phí từ các ứng dụng vi phạm trong kho ứng dụng của họ. Các báo cáo của Tech Transparency Project vào tháng 1 và tháng 4 năm nay đã xác định hàng chục ứng dụng trong kho của Google và Apple bán các hình ảnh giả mạo không đồng thuận thông qua các giao dịch thanh toán được xử lý bởi những công ty trên.

Báo cáo của Tech Transparency Project còn cho biết rằng Google và Apple đã có sự “định hướng có chủ ý” người dùng đến những ứng dụng này, coi họ là những “thành phần chủ chốt lan truyền các công cụ AI có thể biến người thật thành hình ảnh bị tình dục hóa.”

Ngoài ra, ông Chiu cũng tiết lộ với Wired rằng Apple và Google có thể đã thu về “hàng triệu đô la phí” từ việc kinh doanh các ứng dụng cung cấp dịch vụ nói trên.

Thư cảnh báo từ văn phòng luật sư thành phố nêu rõ Apple và Google có thể đối mặt với các hình phạt dân sự nếu tiếp tục vi phạm luật. Hai công ty được yêu cầu phải liên hệ với chính quyền thành phố trong vòng 28 ngày kể từ khi nhận được thư.

Vấn đề khiêu dâm giả mạo (deepfake) chủ yếu ảnh hưởng đến các nữ nghệ sĩ nổi tiếng, tuy nhiên, các ứng dụng “nudify” có thể hướng đến bất kỳ ai có hình ảnh công khai trên mạng internet, làm tăng nguy cơ bị lợi dụng.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.