AMD và Cerebras hợp tác phát triển nền tảng AI phân tán

Trong sự kiện Advancing AI do CEO AMD Lisa Su trình bày, AMD đã công bố sự hợp tác với startup Cerebras Systems để phát triển một nền tảng tính toán phân tán kết hợp GPU Instinct của AMD với bộ tăng tốc AI dựa trên SRAM độc quyền của Cerebras. Mục tiêu của dự án là mang lại khả năng suy luận (inference) AI với độ trễ cực thấp phục vụ cho các tác vụ đòi hỏi hiệu suất cao.

Sự kết hợp này đóng khoảng trống trong danh mục sản phẩm AI của AMD, mà Nvidia đã nhanh chóng khai thác khi chi 20 tỷ USD để mua lại công ty Groq hồi tháng 12 năm ngoái. Groq nổi tiếng với các đơn vị xử lý ngôn ngữ (Language Processing Units - LPU) được thiết kế nhằm tăng tốc các tác vụ suy luận AI.

Công nghệ của Cerebras khác biệt so với GPU truyền thống

Khác với GPU truyền thống thường sử dụng bộ nhớ HBM4, các bộ xử lý wafer scale engine (WSE) của Cerebras dựa trên bộ nhớ SRAM tích hợp trên chip, cho tốc độ truy cập vượt trội hàng chục lần. Điều này giúp Cerebras trở thành một trong những nhà cung cấp khả năng suy luận AI nhanh nhất thế giới, cho phép xử lý hơn 2.000 token mỗi giây.

CEO Cerebras và đồng sáng lập Andrew Feldman cũng từng chỉ trích Nvidia chỉ như một "nhà cung cấp vũ khí AI", trong khi Cerebras hướng tới nâng cao hiệu suất thực tế bằng công nghệ bộ nhớ tiên tiến của mình.