Khái quát về AI tại chỗ trên smartphone

AI tại chỗ (on-device AI) là khả năng thực thi các thuật toán học máy và mô hình AI sinh tạo trực tiếp trên phần cứng smartphone, chủ yếu trên các bộ xử lý chuyên dụng như Neural Processing Units (NPU). Điều này trở thành tiêu chuẩn đối với các dòng smartphone cao cấp ngày nay, hỗ trợ nhiều chức năng như dịch thuật thời gian thực, xử lý ảnh tính toán nâng cao và tối ưu hệ thống chủ động.

Tiến bộ phần cứng thúc đẩy AI tại chỗ

Chìa khóa cho cuộc cách mạng AI tại chỗ nằm ở sự phát triển các bộ xử lý NPU chuyên biệt, thiết kế để thực hiện các phép toán phức tạp của mạng nơ-ron nhân tạo hiệu quả hơn so với bộ xử lý trung tâm (CPU) hay bộ xử lý đồ họa (GPU). Công nghệ bán dẫn tiên tiến đã cho phép tích hợp các chip mạnh mẽ này vào smartphone phổ biến.