Hợp tác phát triển nền tảng AI tìm kiếm đầu tiên sử dụng công nghệ nội địa của Hàn Quốc
Vào ngày thứ Ba tại trụ sở AXZ ở Seongnam, tỉnh Gyeonggi, đại diện từ Upstage, FuriosaAI cùng AXZ đã có buổi gặp mặt công bố hợp tác chiến lược phát triển tính năng tìm kiếm AI Summary trên trang web Daum, một trong những cổng thông tin lớn tại Hàn Quốc. Đây được xem là lần đầu tiên tại Hàn Quốc một kiến trúc AI toàn diện được xây dựng hoàn toàn dựa vào các công nghệ nội địa từ hạ tầng AI, các mô hình ngôn ngữ nền tảng đến các dịch vụ người dùng cuối.
Upstage, với mô hình ngôn ngữ lớn Solar, đã kết hợp cùng FuriosaAI sử dụng bộ xử lý thần kinh RNGD (NPU) để cung cấp sức mạnh cho dịch vụ tìm kiếm AI Summary của Daum, đem lại trải nghiệm tìm kiếm cải tiến với kết quả được tối ưu về độ chính xác và tính cập nhật.
Chi tiết công nghệ và lợi thế về hiệu năng, chi phí
Tính năng AI Summary mới được Daum ra mắt dưới dạng thử nghiệm vào đầu tháng này, cho phép phân tích các tài liệu web qua mô hình ngôn ngữ lớn (LLM) để trả lời các truy vấn tìm kiếm với câu trả lời toàn diện và cô đọng. Khi người dùng nhập từ khóa, hệ thống không chỉ trả về tóm tắt ngắn gọn mà còn cung cấp nguồn tham khảo hỗ trợ. Hệ thống tự động cập nhật khi nội dung nguồn thay đổi, giúp người dùng nhận được thông tin mới nhất.
Ông Lee Keon-su, CEO AXZ, cho biết hệ thống kết hợp phương pháp tìm kiếm "lai" giữa từ khóa truyền thống và truy xuất dữ liệu theo vector để đảm bảo Solar được cung cấp dữ liệu phù hợp và kịp thời, đồng thời giảm thiểu hiện tượng sai lệch thông tin thường gặp ở các mô hình AI. Các kỹ sư đã nâng cao khả năng kiểm soát, giúp hệ thống chỉ chuyển tới người dùng những thông tin chính xác và mới nhất.
Về phần cứng, CEO FuriosaAI June Paik cho biết hệ thống hiện xử lý khoảng 500 triệu token mỗi ngày trên ba nút tính toán, đồng thời nhấn mạnh việc tự thiết kế cả phần cứng và phần mềm, bao gồm cả trình biên dịch tối ưu, giúp hiệu suất hoạt động tương đương với GPU Nvidia H200. Quan trọng hơn, việc sử dụng bộ xử lý NPU của FuriosaAI đã giúp giảm hơn 50% chi phí xử lý so với các GPU thông thường.
Ông Paik khẳng định các bộ xử lý nội địa này không chỉ đem lại hiệu quả trên mỗi watt tiêu thụ và chi phí tổng thể mà còn là yếu tố then chốt để triển khai các ứng dụng AI quy mô lớn. Trong bối cảnh hiện nay, việc kết hợp giữa chip AI chủ quyền, mô hình và dịch vụ được phát triển trong nước là chiến lược quan trọng để đảm bảo tính độc lập và cạnh tranh của công nghệ AI tại Hàn Quốc.
Tiềm năng mở rộng và ứng dụng trong tương lai
Hiện tại, tính năng AI Summary chiếm khoảng 20% lưu lượng truy vấn trên cổng tìm kiếm Daum. AXZ đang có kế hoạch mở rộng phạm vi áp dụng sang các dịch vụ theo ngành như mua sắm và gợi ý nhà hàng, cũng như phát triển các trợ lý AI cá nhân hóa phục vụ từng người dùng trong tương lai gần.
Sự hợp tác này đại diện cho một bước tiến lớn trong lĩnh vực AI tại Hàn Quốc, không chỉ về mặt kỹ thuật mà còn về chiến lược phát triển công nghệ chủ quyền, góp phần nâng cao vị thế của quốc gia trong cuộc đua công nghệ toàn cầu.
Những điều rút ra từ bài viết
- Upstage và FuriosaAI tự phát triển nền tảng AI hoàn chỉnh sử dụng công nghệ nội địa, đánh dấu bước đột phá trong ngành AI của Hàn Quốc.
- Tính năng AI Summary trên Daum cho phép trả lời tìm kiếm bằng cách tổng hợp nội dung và tự động cập nhật thông tin mới nhất.
- FuriosaAI tự thiết kế phần cứng và phần mềm, nâng cao hiệu suất, giảm hơn 50% chi phí so với GPU truyền thống.
- Hệ thống kết hợp phương pháp tìm kiếm lai giúp cải thiện độ chính xác và giảm rủi ro sai lệch thông tin của AI.
- Dịch vụ mới đang chiếm khoảng 20% truy vấn trên Daum và có kế hoạch mở rộng sang các lĩnh vực chuyên ngành và trợ lý cá nhân hóa.
Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.
