Meta triển khai AI mới nhằm chặn đứng các quảng cáo dẫn đến nội dung lạm dụng trẻ em

Trong nửa đầu năm 2026, Meta cho biết đã xử lý hơn 33,2 triệu nội dung liên quan đến bóc lột tình dục trẻ em trên Facebook và Instagram. Đáng chú ý, hơn 97% số nội dung này được hệ thống tự động phát hiện trước khi có báo cáo từ người dùng.

Để đối phó với các thủ đoạn tinh vi hơn, Meta vừa ra mắt hệ thống mô hình ngôn ngữ lớn (LLM) mới nhằm phát hiện hành vi “signposting”. Đây là kỹ thuật mà các đối tượng xấu sử dụng để tạo ra các quảng cáo trông có vẻ bình thường, nhưng thực chất là “cổng dẫn” đưa người dùng đến các trang web chứa nội dung bất hợp pháp bên ngoài nền tảng của Meta.

Thay vì chỉ quét nội dung bên trong quảng cáo, hệ thống mới của Meta sẽ phân tích cả đích đến (destination) của quảng cáo đó. Nếu phát hiện trang web vi phạm chính sách, Meta sẽ chặn truy cập và xử lý các tài khoản đứng sau. Ngoài ra, công ty cũng áp dụng các công cụ quét dựa trên AI để tìm kiếm những nội dung bóc lột trẻ em mà các hệ thống cũ có thể đã bỏ sót.

Một điểm đáng chú ý khác là việc Meta triển khai “red-teaming AI agent”. Công cụ này đóng vai trò như một tác nhân kiểm thử, chủ động tìm kiếm các lỗ hổng trong chính sách bảo mật của Meta để ngăn chặn các phương thức lạm dụng mới trước khi chúng trở nên phổ biến. Bên cạnh đó, Meta cũng đang cải thiện hệ thống nhận diện để ngăn chặn những đối tượng đã bị xóa tài khoản quay trở lại nền tảng.

Những động thái này diễn ra trong bối cảnh Meta đang chịu áp lực lớn từ các nhà lập pháp và các vụ kiện liên quan đến an toàn trẻ em. Trước đó vào tháng 8, Meta đã đạt được thỏa thuận chi trả tới 18 tỷ USD để giải quyết các vụ kiện về an toàn trẻ em tại 29 bang của Mỹ. Song song với đó, công ty cũng liên tục cập nhật các tính năng kiểm soát cho phụ huynh trên WhatsApp và Instagram trong suốt năm 2026.

Nguồn tham khảo: TechCrunch