Samsung SDS ra mắt dịch vụ học sâu đầu tiên tại Hàn Quốc sử dụng chip nội địa

Ngày 1/5, Samsung SDS chính thức khai trương dịch vụ Neural Processing Unit as a Service (NPUaaS) trên nền tảng Samsung Cloud Platform (SCP). Đây là dịch vụ đầu tiên tại Hàn Quốc ứng dụng chip NPU (đơn vị xử lý thần kinh) do FuriosaAI, startup công nghệ nội địa, phát triển. Chip sử dụng cho dịch vụ là RNGD thế hệ thứ hai, được thiết kế để cạnh tranh hiệu quả với các bộ xử lý đồ họa truyền thống (GPU), nhờ khả năng tiêu thụ điện năng thấp và chi phí vận hành giảm đáng kể.

Khác với GPU thường được dùng để huấn luyện các mô hình trí tuệ nhân tạo quy mô lớn, NPU tập trung vào giai đoạn suy luận AI – chính là thời điểm mô hình đã được huấn luyện hoàn chỉnh và bắt đầu thực thi các tác vụ như sinh văn bản, phân tích dữ liệu hay nhận dạng hình ảnh. Samsung SDS cho biết, chip RNGD mang đến giải pháp hiệu quả về chi phí và năng lượng cho các doanh nghiệp muốn giảm bớt chi phí điện toán.

Khách hàng của Samsung SDS có thể sử dụng dịch vụ theo hình thức thuê bao, thuê sức mạnh tính toán NPU qua đám mây thay vì phải đầu tư máy chủ vật lý riêng. Người dùng được phép lựa chọn cấu hình tính toán gồm một, hai, bốn hoặc tám chip tùy theo nhu cầu vận hành cụ thể. Điều này giúp doanh nghiệp dễ dàng mở rộng hoặc thu hẹp hạ tầng một cách nhanh chóng và tiết kiệm chi phí.