Substack ra mắt công cụ phát hiện nội dung do AI viết

Substack vừa chính thức triển khai một tính năng mới cho phép người dùng kiểm tra xem các bản tin (newsletter) mà họ theo dõi có sự can thiệp của trí tuệ nhân tạo (AI) hay không. Thông qua việc tích hợp phần mềm phát hiện văn bản AI có tên Pangram, người dùng có thể quét các bài đăng, bình luận và phản hồi trên ứng dụng Substack để nhận về ước tính tỷ lệ nội dung được tạo ra bởi con người so với AI.

Trong ngắn hạn, động thái này có thể gây ra những thách thức nhất định cho Substack khi phơi bày thực trạng các bản tin không hoàn toàn do con người chấp bút, từ đó có khả năng ảnh hưởng đến niềm tin của độc giả vào chất lượng nội dung trên nền tảng. Tuy nhiên, về dài hạn, đây được xem là bước đi cần thiết để loại bỏ tình trạng “AI slop” (nội dung rác do AI tạo ra tràn lan), giúp người đọc có cái nhìn rõ ràng hơn về nguồn gốc thông tin họ tiếp cận.

Chris Best, CEO của Substack, chia sẻ trong một buổi thảo luận với nhà sáng lập Pangram, Max Spero: “Đây là cách sử dụng AI hiệu quả. Chúng tôi muốn phần mềm hỗ trợ mọi thứ, nhưng phần khó nhất – những ý tưởng đáng đọc, đáng chia sẻ – vẫn nên là công việc của con người”.

Cách thức hoạt động:

• Tính năng này áp dụng cho các bài đăng, ghi chú, phản hồi hoặc bình luận có độ dài trên 100 ký tự trên ứng dụng Substack.
• Substack cũng cho phép các tác giả tự thêm ghi chú về việc sử dụng AI (AI author’s note) để công khai quy trình sáng tạo của họ.
• Công cụ này không nhằm mục đích cấm đoán hay trừng phạt việc sử dụng AI, mà khuyến khích sự minh bạch.
• Các nhà xuất bản có thể sử dụng Pangram để kiểm tra bản thảo trước khi đăng tải, đồng thời có quyền báo cáo hoặc gỡ bỏ các kết quả quét nếu cho rằng hệ thống đưa ra đánh giá sai lệch.

Với bước đi này, Substack đã gia nhập nhóm các nền tảng công nghệ lớn đang nỗ lực dán nhãn nội dung AI, tương tự như cách các mạng xã hội gắn nhãn ảnh/video AI hay các dịch vụ streaming âm nhạc bắt đầu kiểm soát nội dung do AI tạo ra.

Nguồn tham khảo: TechCrunch