San Francisco yêu cầu Apple và Google gỡ bỏ các ứng dụng ‘nudify’ khỏi kho ứng dụng

Chính quyền thành phố San Francisco (California, Mỹ) vừa đưa ra yêu cầu nghiêm ngặt đối với Apple và Google, buộc hai tập đoàn này phải ngay lập tức gỡ bỏ hàng loạt ứng dụng được gọi là “nudify” khỏi App Store và Google Play. Đây là các phần mềm sử dụng công nghệ AI để chỉnh sửa ảnh, tạo ra hình ảnh khỏa thân giả mạo từ ảnh thật của người khác mà không có sự đồng ý.

Theo luật pháp California, mọi hành vi cố tình hỗ trợ hoặc tiếp tay cho việc tạo ra nội dung khiêu dâm deepfake không tự nguyện đều là vi phạm pháp luật. Luật mới được thông qua năm 2025 cũng cho phép các nạn nhân thực hiện các hành động pháp lý dân sự đối với những bên thứ ba tạo điều kiện cho loại nội dung này phát tán.

Luật sư thành phố San Francisco, ông David Chiu, khẳng định rằng Apple và Google đang hưởng lợi từ các ứng dụng khai thác phụ nữ và trẻ em gái thông qua việc tạo ra các deepfake thân mật trái phép. Dù đã có những động thái cắt đứt liên hệ với một số ứng dụng, nhưng ông Chiu cho rằng cả hai công ty vẫn thiếu sự chủ động và cảnh giác cần thiết để ngăn chặn hành vi lạm dụng tình dục kỹ thuật số.

Các tài liệu từ văn phòng luật sư thành phố cho thấy, Apple và Google đã được cảnh báo nhiều lần trong suốt một năm qua về vai trò của họ trong việc xử lý thanh toán cho các giao dịch bất hợp pháp này. Báo cáo từ Tech Transparency Project (TTP) hồi tháng 1 và tháng 4 cũng chỉ ra rằng, có hàng chục ứng dụng trên kho lưu trữ của hai hãng này đang thương mại hóa các hình ảnh NCII (Non-Consensual Intimate Images – hình ảnh thân mật không tự nguyện).

Phía Apple cho biết họ đã cấm các ứng dụng nudify trên App Store, đồng thời đã gỡ bỏ ba ứng dụng bị nêu tên và đang tiến hành chấm dứt tài khoản của các nhà phát triển liên quan. Trong khi đó, đại diện Google khẳng định đã đình chỉ tất cả các ứng dụng bị nhắc đến trong thư của ông Chiu, đồng thời hạn chế các từ khóa tìm kiếm liên quan đến “nudify” trên cửa hàng của mình.

Vụ việc này một lần nữa gióng lên hồi chuông cảnh báo về trách nhiệm của các nền tảng phân phối ứng dụng trong việc kiểm soát nội dung AI độc hại, khi công nghệ deepfake ngày càng trở nên dễ tiếp cận và gây ra những hệ lụy nghiêm trọng cho người dùng phổ thông.

Nguồn tham khảo: TechCrunch