Apple siết chặt quy định, cấm các ứng dụng ‘nudify’ gian lận trên App Store

Apple vừa đưa ra những thay đổi quan trọng trong bộ hướng dẫn dành cho nhà phát triển nhằm siết chặt quản lý đối với các ứng dụng sử dụng trí tuệ nhân tạo (AI). Động thái này tập trung vào việc loại bỏ các ứng dụng tạo nội dung phản cảm, cũng như các phần mềm sử dụng thủ thuật “bait-and-switch” (treo đầu dê bán thịt chó) để qua mặt quy trình kiểm duyệt của App Store.

Theo quy định mới, các ứng dụng có chứa nội dung do người dùng tạo (UGC) bắt buộc phải có hệ thống lọc tài liệu không phù hợp, cung cấp công cụ báo cáo nội dung xấu và tính năng chặn các tài khoản lạm dụng. Apple nhấn mạnh rằng việc che giấu hoặc không công khai các tính năng trong quá trình gửi duyệt là hành vi bị nghiêm cấm. Những ứng dụng cố tình đánh tráo mục đích sử dụng, chỉ kích hoạt các tính năng độc hại như “nudification” (tạo ảnh khỏa thân bằng AI) sau khi đã được phê duyệt, sẽ bị xóa khỏi cửa hàng.

Đại diện Apple khẳng định hãng sẽ kiên quyết loại bỏ bất kỳ ứng dụng nào bổ sung các tính năng không có trong phiên bản đã được gửi duyệt ban đầu. Ngoài ra, Apple cũng cập nhật các điều khoản pháp lý để tăng cường rào cản đối với các ứng dụng liên quan đến buôn người hoặc bóc lột trẻ em.

Động thái này diễn ra trong bối cảnh áp lực từ các cơ quan chức năng ngày càng lớn. Vào tháng 7 vừa qua, chính quyền thành phố San Francisco đã yêu cầu Apple và Google phải làm sạch kho ứng dụng của mình khỏi các phần mềm tạo ảnh khỏa thân. Trước đó, một báo cáo từ Tech Transparency Project cũng chỉ ra rằng nhiều ứng dụng dạng này vẫn tồn tại trên các kho ứng dụng lớn, thậm chí còn được xếp hạng phù hợp với trẻ vị thành niên.

Trong năm ngoái, Apple cho biết quy trình kiểm duyệt của họ đã chặn hơn 150.000 ứng dụng và xóa 193.000 tài khoản nhà phát triển do các hành vi gian lận và lạm dụng chính sách.

Nguồn tham khảo: TechCrunch