AMD ra mắt ROCm.AI nhằm tăng tốc hiệu suất AI

Tại sự kiện Advancing AI diễn ra ở San Francisco, AMD giới thiệu nền tảng phần mềm ROCm.AI nhằm cung cấp công cụ tối ưu hóa hiệu năng cho máy học và trí tuệ nhân tạo trên phần cứng GPU AMD. Mục tiêu của ROCm.AI là giúp người dùng có thể điều chỉnh và tăng tốc mô hình AI nhanh hơn thông qua các công cụ hỗ trợ tích hợp, giảm bớt những khó khăn khi tối ưu trực tiếp bằng các thư viện chuyên sâu như ROCm và HIP.

Xóa mờ rào cản CUDA trong phát triển AI

Anush Elangovan, Phó chủ tịch phụ trách phần mềm AI tại AMD, cho biết AMD không chỉ công khai đặc tả kiến trúc ISA mà còn cung cấp phiên bản có thể đọc bằng máy của ISA dành cho GPU AMD để các mô hình AI hàng đầu có thể tận dụng thiết bị một cách hiệu quả nhất.

Hyperloom – công cụ tối ưu hóa hiệu năng tự động

ROCm.AI tích hợp một hệ thống tối ưu hóa hiệu suất công việc tự động tên là Hyperloom. Khi được kích hoạt, ví dụ qua lệnh “optimize MiniMax M3 with Hyperloom”, hệ thống sẽ tự động khởi tạo máy chủ inference trong container Docker, chạy các bài benchmark để thiết lập hiệu suất cơ sở, phân tích kỹ các điểm nghẽn trong quá trình xử lý, sau đó tự động điều chỉnh cấu hình hoặc tạo kernel CPU riêng biệt để cải thiện hiệu quả tính toán.

Trong các thử nghiệm trên các dàn máy Helios mới ra mắt của AMD, công nghệ này đã tăng hiệu suất mô hình lên tới 38% so với mức cơ sở ban đầu. Đây là bước tiến lớn giúp người dùng dễ dàng khai thác hiệu năng tối đa mà không cần có kiến thức chuyên sâu về tối ưu GPU.

Hợp tác với các nhà phát triển mô hình AI hàng đầu

AMD xây dựng quan hệ mật thiết với các công ty phát triển mô hình AI như OpenAI và Anthropic để đảm bảo các mô hình có thể hiểu và vận hành hiệu quả trên phần mềm và phần cứng AMD. Elangovan nhấn mạnh rằng công ty không chỉ dùng các mô hình frontier để sinh ra kernel mà còn phối hợp sâu nhằm giúp chúng “nói tiếng” lập trình AMD một cách tự nhiên.

Bên cạnh giao diện dòng lệnh truyền thống, ROCm.AI còn được cung cấp dưới dạng plugin cho nhiều trợ lý lập trình phổ biến như Claude Code của Anthropic, Codex của OpenAI, Antigravity của Google và Cursor, giúp mở rộng khả năng tối ưu hóa lên nhiều nền tảng phát triển phần mềm khác nhau.

Quảng cáo300 × 250

ROCm.AI hứa hẹn sẽ là khởi đầu cho bước đột phá mới giúp AMD cạnh tranh mạnh mẽ hơn với NVIDIA trong thị trường AI đang phát triển nhanh chóng, tạo điều kiện cho các lập trình viên khai thác triệt để sức mạnh phần cứng của AMD mà không bị giới hạn bởi rào cản công nghệ trước đây.

Những điều bổ ích từ bài viết

  • ROCm.AI giúp tối ưu hiệu suất AI trên GPU AMD một cách tự động, tăng hiệu quả sử dụng phần cứng.
  • Các framework như PyTorch giúp giảm phụ thuộc CUDA nhưng vẫn cần tối ưu thấp để đạt hiệu năng tối đa trên AMD.
  • Hyperloom có thể cải thiện hiệu suất mô hình lên tới 38% trên dàn máy Helios của AMD.
  • AMD công khai ISA của GPU để các mô hình AI có thể lập trình sâu hơn với phần cứng.
  • Quan hệ hợp tác với OpenAI và Anthropic giúp mô hình AI hiểu rõ hơn về phần mềm và phần cứng AMD.

Đăng ký bản tin QMVN

Nhận tin tổng hợp mỗi sáng - chỉ những bài đáng đọc, không spam.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.