Kimi K3 gây chấn động thị trường AI Mỹ - Trung
Trong tuần qua, Kimi K3, mô hình trí tuệ nhân tạo mới của công ty Moonshot AI tại Trung Quốc, đã thu hút sự chú ý lớn khi vượt qua đối thủ Anthropic's Fable 5 trong các bài kiểm tra lập trình front-end. Thành công này khiến giới đầu tư trên sàn Nasdaq rung chuyển và làm dấy lên tranh luận trong cộng đồng công nghệ Silicon Valley về việc liệu Trung Quốc đã nhanh chóng thu hẹp khoảng cách công nghệ AI với Mỹ. Được hỗ trợ bởi các ông lớn Alibaba và Tencent, Moonshot AI vốn đã chờ đợi nhiều năm để có thể tạo ra cú bứt phá quan trọng này.
Tuy nhiên, thành công ban đầu này nhanh chóng bị kìm hãm bởi vấn đề năng lực hạ tầng. Moonshot AI thừa nhận rằng các máy chủ của họ không thể đáp ứng nhu cầu GPU tăng cao từ người dùng, buộc công ty phải tạm thời dừng nhận đăng ký mới. Trên mạng xã hội X, Moonshot chia sẻ: "Kimi K3 nhận được sự quan tâm vượt ngoài dự kiến, và các GPU của chúng tôi đang chịu sức ép lớn". Điều này cho thấy rằng những thách thức về kỹ thuật mà ChatGPT hay Claude từng trải qua vẫn là vấn đề lớn ngay cả với mô hình mới của Trung Quốc.
Tình trạng thiếu hụt GPU ảnh hưởng đến phát triển AI
Chỉ trong vòng 48 giờ sau khi ra mắt, lượng người đăng ký sử dụng Kimi K3 đã vượt quá khả năng xử lý hiện tại của cơ sở hạ tầng Moonshot, khiến công ty phải đưa ra biện pháp tạm đóng cửa các đăng ký mới để tập trung bảo vệ người dùng hiện tại và dành thời gian nâng cấp hệ thống. Moonshot cam kết sẽ mở lại các chỗ đăng ký theo từng đợt khi có đủ năng lực phục vụ.
Đây không phải là điều mới trong ngành AI. OpenAI từng phải tạm ngừng nhận đăng ký cho bản ChatGPT Plus vào cuối năm 2023 do áp lực tải lớn. Anthropic cũng áp dụng giới hạn sử dụng với mô hình Claude vì lý do tương tự. Việc duy trì hoạt động quy mô lớn cho các mô hình có tham số khổng lồ luôn tốn kém và phụ thuộc rất nhiều vào phần cứng, đặc biệt là GPU. Kimi K3 là một hệ thống với 2,8 nghìn tỷ tham số, yêu cầu thiết bị triển khai phải có ít nhất 64 bộ tăng tốc mới đảm bảo hiệu quả hoạt động.
Phân chia gói dịch vụ để tối ưu hạ tầng
Trước tình trạng quá tải, Moonshot cũng điều chỉnh cách thức cung cấp dịch vụ Kimi K3 bằng cách chia thành hai loại thành viên độc lập. Một hướng dành cho người dùng web, ứng dụng di động và Kimi Work, và hướng kế tiếp dành cho lập trình viên với gói Kimi Code Membership chuyên về các công việc lập trình cần nhiều tính toán lâu dài. Việc tách riêng này giúp Moonshot có thể bố trí GPU phù hợp cho từng nhu cầu sử dụng thay vì phân bổ tài nguyên mỏng rộng trên tất cả các trường hợp dùng chung.
Xuất bản bản trọng số mở có thể giải tỏa áp lực
Bước đi kế tiếp được Moonshot lên kế hoạch là phát hành toàn bộ trọng số mô hình Kimi K3 vào ngày 27/7. Khi đó các doanh nghiệp và chính phủ có thể tải về, tùy chỉnh và vận hành trên phần cứng riêng của mình. Việc này không chỉ là ý tưởng thu hút người dùng mà còn giúp giảm tải cho hệ thống API của Moonshot khi những khách hàng dùng nhiều có thể tự triển khai.
Kimi K3 cho thấy một phòng thí nghiệm AI tại Trung Quốc đã có thể xây dựng được mô hình tiên tiến gần tương đương các đối thủ Mỹ với chi phí thấp hơn khoảng 40%. Tuy nhiên, bài học rút ra là dù nền tảng có thể mạnh lên, giới hạn về hạ tầng GPU vẫn là rào cản lớn và công bằng cho mọi bên tham gia từ Bắc Kinh đến San Francisco đều phải đối mặt với bài toán tương tự.
Những điều bổ ích từ bài viết
- Kimi K3 vượt trội trong các bài thử lập trình so với Claude và Fable 5.
- Moonshot AI gặp hạn chế về GPU buộc phải tạm ngừng nhận người dùng mới sau 48 giờ ra mắt.
- Kimi K3 là mô hình 2,8 nghìn tỷ tham số, đòi hỏi phần cứng rất mạnh để vận hành.
- Moonshot chia dịch vụ thành gói web và lập trình để tối ưu hiệu quả GPU.
- Phát hành bản trọng số mở dự kiến giảm áp lực hạ tầng cho Moonshot từ 27/7.
Đăng ký bản tin QMVN
Nhận tin tổng hợp mỗi sáng - chỉ những bài đáng đọc, không spam.
Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.







