Khi các rào cản bảo mật AI vô tình cản trở giới nghiên cứu an ninh mạng

Trong nhiều tháng qua, các ông lớn trong ngành AI đã thiết lập những chương trình kiểm duyệt và các rào cản kỹ thuật (guardrails) nghiêm ngặt nhằm ngăn chặn việc lạm dụng mô hình cho các mục đích tấn công mạng. Tuy nhiên, những giới hạn này đang trở thành rào cản đối với chính những chuyên gia bảo mật và các nhà nghiên cứu an ninh mạng tấn công (offensive security researchers).

Điển hình là vào tháng 6, chính phủ Mỹ đã áp đặt các hạn chế xuất khẩu đối với các mô hình AI Mythos và Fable của Anthropic, sau khi có báo cáo cho rằng người dùng có thể bypass các rào cản để thực hiện các cuộc tấn công mạng. Dù các hạn chế này sau đó đã được nới lỏng, sự việc cho thấy sự nhạy cảm của các công ty AI trong việc kiểm soát công nghệ của mình.

Rào cản cho người làm bảo mật

Các công ty như OpenAI và Anthropic đều có các chương trình đặc biệt cho phép các nhà nghiên cứu tiếp cận các mô hình với ít hạn chế hơn. Tuy nhiên, giới chuyên gia cho rằng cách tiếp cận này vẫn mang tính áp đặt. Mark Dowd, một nhà nghiên cứu bảo mật kỳ cựu, bày tỏ quan ngại về việc các công ty công nghệ tự ý đưa ra quyết định về những gì được coi là “an toàn” trong lĩnh vực bảo mật.

Chris Anley, Giám đốc khoa học tại NCC Group, chỉ ra rằng việc yêu cầu AI thử nghiệm khai thác một bug là bước quan trọng để xác nhận đó có phải là một vulnerability thực sự hay không. “Công cụ này vừa là vũ khí, vừa là công cụ phòng thủ. Bạn không thể xây nhà mà không có búa, và việc tách biệt hai mục đích này là điều bất khả thi”, ông nhận định.

Hệ quả: Chuyển hướng sang mô hình mã nguồn mở

Khi gặp phải các rào cản quá mức từ các mô hình thương mại, nhiều nhà nghiên cứu đã chuyển sang sử dụng các mô hình AI mã nguồn mở chạy cục bộ (locally). Cách làm này giúp họ tránh được việc chia sẻ dữ liệu nhạy cảm lên cloud, đồng thời loại bỏ được các rào cản gây phiền toái.

Paolo Stagno từ CrowdFense cho biết ông chỉ sử dụng các mô hình frontier cho việc reverse engineering, còn các công việc tìm kiếm lỗ hổng hay xây dựng exploit đều được thực hiện trên các mô hình mã nguồn mở để đảm bảo tính bảo mật dữ liệu.

Thách thức về sự nhất quán

Chris Thompson, CEO của RemoteThreat, nhận định rằng các guardrails hiện nay thường thiếu nhất quán, khiến các nhà nghiên cứu mất nhiều thời gian để “thương lượng” với mô hình thay vì tập trung vào công việc chính. Điều đáng lo ngại hơn là tình trạng này đang đẩy các nhà nghiên cứu phương Tây tìm đến các mô hình mã nguồn mở từ nước ngoài (như GLM), nơi không có các rào cản kiểm duyệt.

Thay vì siết chặt hơn nữa, các chuyên gia đề xuất các phòng thí nghiệm AI nên mở rộng quyền truy cập có trách nhiệm, đồng thời tập trung vào việc xử lý những đối tượng lạm dụng công cụ thay vì kìm hãm những người đang nỗ lực bảo vệ hệ thống trước làn sóng tấn công mạng quy mô lớn trong tương lai.

Nguồn tham khảo: TechCrunch