Anthropic phát triển FlashProve: Hệ thống mã hóa xác thực nguồn gốc mô hình AI

Anthropic vừa công bố dự án mã nguồn mở mang tên FlashProve, một hệ thống được thiết kế để cung cấp khả năng “provable inference” (suy luận có thể chứng minh). Về cơ bản, đây là một phương thức sử dụng mật mã học để tạo ra sự đảm bảo về mặt toán học rằng một kết quả đầu ra cụ thể được tạo ra bởi một mô hình AI nhất định.

Tương tự như chữ ký số trong email giúp xác nhận danh tính người gửi, FlashProve được xây dựng để chống lại các hành vi giả mạo, ngay cả khi chính đơn vị vận hành mô hình cố tình đánh tráo. Hệ thống này giúp ngăn chặn tình trạng các công ty AI âm thầm thay thế mô hình cao cấp bằng các mô hình rẻ tiền hơn để cắt giảm chi phí, hoặc ngược lại, sử dụng mô hình mạnh hơn để thổi phồng kết quả hiệu năng.

Ngoài ra, FlashProve còn giải quyết bài toán xác thực từ bên thứ ba. Ví dụ, khi một nhà phát triển khẳng định thư viện phần mềm của họ đã được quét lỗ hổng bảo mật bởi một mô hình AI tiên tiến, người dùng có thể sử dụng hệ thống này để kiểm chứng tuyên bố đó thay vì chỉ tin vào lời nói suông.

Cơ chế hoạt động:

• Các phòng thí nghiệm AI sẽ công bố một “dấu vân tay” (fingerprint) của mô hình. Dấu vân tay này có thể đối chiếu với các kết quả đầu ra để xác thực bằng mật mã.
• Điểm mấu chốt là các dấu vân tay này không làm lộ trọng số (weights) của mô hình – tài sản trí tuệ quan trọng nhất mà các đơn vị như Anthropic hay OpenAI luôn giữ kín.
• Hệ thống được thiết kế tối ưu, nhẹ nhàng, cho phép thực hiện quá trình xác thực ngay trên các thiết bị cục bộ.

Hiện tại, Anthropic đã công bố tài liệu kỹ thuật chi tiết và mã nguồn của FlashProve trên GitHub dưới dạng mã nguồn mở. Tuy nhiên, đây vẫn là một dự án nghiên cứu đang trong giai đoạn phát triển trung gian. Anthropic cho biết họ chưa có kế hoạch triển khai thực tế hệ thống này tại công ty mà mục tiêu chính là chia sẻ tiến trình để cộng đồng cùng nghiên cứu và cải thiện.

Nguồn tham khảo: TechCrunch