Meta dự kiến áp hạn mức sử dụng AI token cho từng kỹ sư

Trong một cuộc phỏng vấn gần đây trên Lenny’s Podcast, Adam Mosseri, lãnh đạo Instagram tại Meta, đã đưa ra nhận định về tương lai của việc quản lý chi phí AI. Ông cho rằng chỉ trong một hoặc hai năm tới, việc áp đặt hạn mức chi phí sử dụng AI token cho mỗi kỹ sư sẽ trở thành yêu cầu tất yếu.

Theo Mosseri, tốc độ tiêu thụ tài nguyên của một kỹ sư tài năng có thể sớm tương đương với mức lương hoặc chi phí nhân sự của chính họ. Do đó, doanh nghiệp cần thiết lập các giới hạn cụ thể để kiểm soát ngân sách. Hiện tại, Meta chưa áp dụng hạn mức này, nhưng Mosseri tin rằng đây là bước đi cần thiết để quản lý tài nguyên hiệu quả, tương tự như cách quản lý ngân sách vận hành (OpEx) hay chi phí nhân sự hiện nay.

Vấn đề chi phí AI token – chi phí cho việc xử lý các câu lệnh và phản hồi từ AI – đang trở thành chủ đề nóng tại nhiều tập đoàn công nghệ. Meta từng phải đóng cửa một bảng xếp hạng nội bộ về mức tiêu thụ token sau khi nhận thấy chi phí dự kiến cho năm 2026 có thể lên tới hàng tỷ USD. Tương tự, Uber cũng từng phải xem xét lại chiến lược sau khi tiêu tốn hết ngân sách AI cho cả năm 2026 chỉ trong vòng 4 tháng đầu năm. Microsoft cũng đã thực hiện các biện pháp thắt chặt bằng cách hủy bỏ giấy phép Claude Code và chuyển hướng đội ngũ kỹ sư sang sử dụng công cụ Copilot CLI nội bộ.

Mosseri nhấn mạnh rằng việc quản lý token cũng giống như phân bổ các tài nguyên hữu hạn khác như GPU, CPU, bộ nhớ hay ngân sách gắn nhãn dữ liệu. Hạn mức cho mỗi kỹ sư sẽ được cân nhắc dựa trên khả năng sử dụng AI sao cho đạt hiệu quả đầu tư (ROI) tích cực. Dù vậy, ông cũng kỳ vọng chi phí token sẽ giảm dần trong tương lai khi các nhà cung cấp mô hình AI bước vào cuộc chiến giá cả để giành thị phần.

Hiện tại, Meta đã bắt đầu kiểm soát chi phí bằng cách loại bỏ các hoạt động tiêu tốn tài nguyên không cần thiết. Mosseri khẳng định rằng việc xây dựng các hệ thống gây lãng phí token mà không tạo ra giá trị thực tiễn là điều cần phải chấm dứt.

Nguồn tham khảo: TechCrunch