Amazon thách thức vị thế của Nvidia với công cụ TorchNeuron mới

Amazon Web Services (AWS) vừa chính thức giới thiệu TorchNeuron, một giải pháp được thiết kế để giúp các startup AI dễ dàng chuyển đổi ứng dụng sang nền tảng chip chuyên dụng Trainium của hãng. Đây được xem là đòn tấn công trực diện vào lợi thế phần mềm mà Nvidia đã dày công xây dựng, vốn đã giúp hãng này trở thành lựa chọn mặc định trong ngành công nghiệp AI.

Đơn giản hóa quy trình chuyển đổi

TorchNeuron hoạt động dựa trên PyTorch, bộ công cụ mã nguồn mở phổ biến nhất hiện nay trong việc xây dựng, huấn luyện và vận hành các mô hình AI. Theo AWS, các nhà phát triển có thể chạy ứng dụng PyTorch trên chip Trainium mà không cần phải viết lại code, chỉ cần thay đổi một dòng cấu hình duy nhất. Điều này giúp giảm đáng kể rào cản kỹ thuật khi muốn chuyển đổi hạ tầng.

Hiện nay, khoảng 85% các ứng dụng AI được viết bằng PyTorch. Nvidia từ lâu đã tối ưu hóa hệ sinh thái phần mềm CUDA để hỗ trợ PyTorch một cách hoàn hảo, tạo ra một sự gắn kết chặt chẽ giữa phần cứng GPU của họ và các nhà phát triển.

Chiến lược “Hardware-Agnostic”

Không chỉ dừng lại ở việc hỗ trợ chip của riêng mình, Amazon còn tuyên bố sẽ đóng góp mã nguồn vào dự án PyTorch gốc để giảm bớt sự phụ thuộc tự động vào Nvidia. Mục tiêu của AWS là làm cho PyTorch trở nên trung lập hơn với phần cứng (hardware-agnostic), cho phép cộng đồng nhà phát triển có nhiều lựa chọn hơn thay vì bị khóa chặt vào một hệ sinh thái duy nhất.

Colin Brace, Phó chủ tịch Công nghệ Phần mềm tại AWS Annapurna Labs, chia sẻ: “Câu chuyện thực sự ở đây là loại bỏ sự ràng buộc (vendor lock-in), thứ vốn đã ngăn cản các nhà phát triển tiếp cận với những lựa chọn thực sự hiệu quả về chi phí và hiệu năng.”

Lợi thế từ hệ sinh thái Cloud

AWS lập luận rằng việc chuyển sang Trainium không chỉ đơn thuần là thay đổi chip, mà còn là tận dụng toàn bộ hệ sinh thái cloud của Amazon. Thay vì phải làm việc với các nhà cung cấp hạ tầng đơn lẻ, các startup có thể sử dụng một nền tảng duy nhất cho cả quá trình huấn luyện (training) và suy luận (inference).

Amazon dẫn chứng trường hợp của Deepgram, một đơn vị cung cấp ứng dụng giọng nói AI, đã chuyển sang sử dụng Trainium và đạt được hiệu suất xử lý âm thanh cao hơn 70% trên mỗi USD đầu tư so với trước đây.

Dù chiến lược này hứa hẹn mang lại sự linh hoạt và tiết kiệm chi phí, giới chuyên môn vẫn đang quan sát liệu việc tách rời PyTorch khỏi Nvidia có thực sự mang lại trải nghiệm mượt mà cho nhà phát triển, hay sẽ tạo ra thêm những thách thức về cấu hình phức tạp trong tương lai.

Nguồn tham khảo: TechCrunch