Alphabet phát triển chip AI mới nâng cao hiệu suất chạy mô hình Gemini
Cổ phiếu Alphabet đã tăng 3% vào ngày đầu tuần sau khi The Information đưa tin công ty đang trong quá trình phát triển một loại chip máy chủ mới với tên mã nội bộ "Frozen v2", được thiết kế nhằm vận hành các mô hình trí tuệ nhân tạo Gemini hiệu quả hơn.
Theo báo cáo, chip này sẽ tích hợp trực tiếp một số thành phần kiến trúc của Gemini vào trong lớp silicon, giúp giảm thiểu số lượng phép tính và lượng dữ liệu cần xử lý để trả lời các truy vấn. Điều này hứa hẹn sẽ gia tăng đáng kể hiệu suất hoạt động của hệ thống AI mà không cần tiêu thụ thêm năng lượng.
Hiệu suất vượt trội và kế hoạch triển khai sớm
Kỹ sư của Google ước tính chip Frozen v2 có thể xử lý từ 6 đến 10 lần nhiều token trên mỗi đơn vị năng lượng so với chip AI mới nhất hiện có của công ty là TPU (tensor processing unit). Thay vì thay thế các TPU đa năng, Frozen sẽ trở thành một dòng chip chuyên biệt trong danh mục chip tùy chỉnh của Google.
Alphabet đặt mục tiêu triển khai chip này vào năm 2028 để giải quyết tình trạng thiếu hụt công suất tính toán nội bộ gây áp lực và khiến một số khách hàng có thể phải chờ đợi hoặc chuyển sang dịch vụ khác. Tháng trước, Google cũng đã ký hợp đồng trị giá gần 1 tỷ USD mỗi tháng với SpaceX nhằm giúp tăng cường năng lực tính toán phục vụ khách hàng doanh nghiệp.










