Inkling - Mô hình AI mở với thiết kế chuyên biệt

Ngày 28/6, Thinking Machines Lab đã công bố Inkling - mô hình AI có trọng số mở đầu tiên của họ, cho phép các tổ chức và nhà phát triển thuận tiện tải về và tùy chỉnh từng tham số theo nhu cầu riêng. Với tổng số 975 tỷ tham số nhưng chỉ sử dụng khoảng 41 tỷ tham số cho một nhiệm vụ cụ thể, Inkling áp dụng kiến trúc 'mixture-of-experts' giúp cân bằng tốc độ và chi phí vận hành hiệu quả.

Mô hình được huấn luyện trên một tập dữ liệu khổng lồ gồm 45 nghìn tỷ token bao gồm văn bản, hình ảnh, âm thanh và video, đồng thời có khả năng xử lý đa phương tiện một cách tự nhiên. Đây là minh chứng cụ thể cho sự phát triển hạ tầng AI của Thinking Machines sau hơn một năm rưỡi âm thầm nghiên cứu và phát triển.

Chiến lược AI tùy chỉnh thay vì mô hình đồng phục

Khác với các sản phẩm của OpenAI, Anthropic hay Google vốn đặt mục tiêu trở thành các chatbot đa năng, Inkling là nền tảng linh hoạt để doanh nghiệp tự tinh chỉnh thông qua nền tảng Tinker của Thinking Machines. Công ty nhấn mạnh rằng mô hình một chiều, do một tổ chức tập trung huấn luyện, thường thiếu tính chuyên sâu và linh hoạt cần thiết cho các chuyên ngành riêng biệt.