Rippling ra mắt công cụ quản lý chi phí AI sau khi ‘đốt’ hàng triệu USD

Rippling, nhà cung cấp phần mềm nhân sự, vừa chính thức giới thiệu AI Spend Console – một giải pháp được thiết kế để giúp các doanh nghiệp theo dõi và tối ưu hóa chi phí sử dụng AI. Điểm đáng chú ý nhất của công cụ này là khả năng phân tích chi tiết mức độ tiêu thụ tài nguyên của từng cá nhân, nhóm và vai trò, từ đó đánh giá xem liệu AI có thực sự mang lại hiệu quả công việc hay chỉ tạo ra các nội dung dư thừa.

Bài học đắt giá từ việc chi tiêu quá mức

Quyết định phát triển công cụ này xuất phát từ một cuộc họp nội bộ vào tháng 3, khi CFO của Rippling cảnh báo rằng công ty đang trên đà tiêu tốn tới 40% ngân sách nhân sự R&D chỉ để chi trả cho các token AI. Với tốc độ tăng trưởng chi phí 80% mỗi tháng, nếu không có biện pháp can thiệp, con số này dự kiến sẽ sớm đạt mức 90% ngân sách R&D.

Kết quả phân tích cho thấy khoảng 10-15% nhân viên tạo ra tới 60% tổng chi phí AI, với những trường hợp cá biệt tiêu tốn tới 50.000 USD mỗi tháng. Rippling nhận ra rằng nhân viên thường có xu hướng mặc định sử dụng các mô hình AI mới nhất và đắt đỏ nhất cho mọi tác vụ, bất kể yêu cầu công việc có thực sự cần thiết hay không.

Chiến lược tối ưu hóa: Gateway và mô hình phù hợp

Rippling đã xây dựng một AI gateway riêng để điều phối các prompt đến mô hình phù hợp và tiết kiệm chi phí nhất cho từng tác vụ cụ thể. Thay vì chỉ phụ thuộc vào các mô hình frontier, công ty bắt đầu sử dụng đa dạng các mô hình từ nhiều nguồn khác nhau. Ví dụ, họ nhận thấy các mô hình như GLM 5.2 có hiệu suất gần tương đương nhưng chi phí thấp hơn tới 85% so với các lựa chọn đắt đỏ khác.

Kết quả đạt được rất khả quan: trong tháng 7, dù lượng token tiêu thụ vẫn giữ nguyên ở mức 600 tỷ như thời điểm cao điểm, nhưng chi phí thực tế đã giảm xuống chỉ còn 37% so với tháng 4 nhờ việc định tuyến thông minh.

Không chỉ là công nghệ, mà là văn hóa sử dụng AI

Bên cạnh giải pháp kỹ thuật, Rippling còn triển khai mô hình “AI captains” – những nhân viên sử dụng AI hiệu quả được chỉ định để hỗ trợ đồng nghiệp. Công ty cũng nhấn mạnh rằng việc đo lường ROI (tỷ suất hoàn vốn) của AI là yếu tố sống còn. Nếu không thể liên kết việc tiêu thụ token với năng suất thực tế trong các bộ phận như G&A hay chăm sóc khách hàng, doanh nghiệp sẽ khó có thể duy trì quyền truy cập AI rộng rãi cho toàn bộ nhân viên.

AI Spend Console hiện đã được tích hợp sẵn cho các khách hàng sử dụng dịch vụ nhân sự của Rippling và cũng có thể mua dưới dạng sản phẩm độc lập để tích hợp với các hệ thống khác.

Nguồn tham khảo: TechCrunch