Google mở rộng danh mục phần cứng AI với hai dòng chip chuyên dụng mới

Nhằm giảm bớt sự phụ thuộc vào các nhà cung cấp bên thứ ba cho hạ tầng cloud, Google vừa chính thức bổ sung hai dòng chip mới vào danh mục Tensor Processing Units (TPU) tự phát triển. Các sản phẩm mới bao gồm TPU 8tx và TPU 8i Max, được thiết kế để giải quyết các nhu cầu chuyên biệt về suy luận bảo mật (confidential inference) và mở rộng bộ nhớ cho các mô hình AI phức tạp.

TPU 8tx: Ưu tiên bảo mật phần cứng

Được phát triển với sự hợp tác cùng AMD, TPU 8tx dựa trên nền tảng chip TPU 8t hiện có. Điểm nhấn của dòng chip này là khả năng tích hợp bảo mật trực tiếp vào lớp phần cứng. Điều này cho phép bảo vệ dữ liệu nhạy cảm và các trọng số mô hình (model weights) trong trạng thái cô lập ngay cả khi đang xử lý.

Ngoài ra, TPU 8tx còn sở hữu mạng lưới suy luận tùy chỉnh, cho phép thực hiện quá trình suy luận song song với huấn luyện. Tính năng này hỗ trợ các doanh nghiệp tinh chỉnh và huấn luyện các mô hình nhỏ ngay tại chỗ (on-the-fly) mà không cần di chuyển dữ liệu giữa các thiết bị, đảm bảo tính bảo mật và hiệu suất.

TPU 8i Max: Tăng cường sức mạnh xử lý

Trong khi đó, TPU 8i Max là giải pháp kết hợp hai chip TPU 8i (vốn tập trung vào suy luận) vào trong một gói duy nhất. Thiết kế này giúp tăng gấp đôi dung lượng bộ nhớ, sức mạnh xử lý và băng thông. Nhờ đó, các mô hình AI có thể tiếp nhận và xử lý khối lượng thông tin lớn hơn đáng kể trong mỗi truy vấn.

Cuộc đua chip AI

Việc Google đẩy mạnh phát triển chip riêng phản ánh xu hướng chung của các ông lớn công nghệ như Microsoft, Amazon, cũng như các phòng thí nghiệm AI như OpenAI và Anthropic. Tất cả đều đang nỗ lực tự chủ phần cứng để giảm bớt sự phụ thuộc vào các nhà cung cấp chip đồ họa truyền thống, đồng thời tối ưu hóa chi phí vận hành cho các tác vụ AI đặc thù.

Nguồn tham khảo: TechCrunch