Jacob Tsimerman, nhà toán học Fields Medal, gia nhập OpenAI tập trung vào an toàn AI

Tsimerman nổi tiếng với các công trình trong lý thuyết số, đặc biệt là về phỏng đoán André-Oort, lý do ông được vinh danh bằng Fields Medal. Tuy nhiên, trước khi gia nhập OpenAI, ông chưa có nghiên cứu chuyên sâu về an toàn AI dù có quan tâm từ trước. Năm 2023, ông cùng đồng tác giả công bố một báo cáo phân loại năm kịch bản khả dĩ dẫn đến sự tuyệt chủng của nhân loại do AI, trong đó có viễn cảnh một cuộc "nội chiến toàn cầu" giữa các công ty công nghệ và chính phủ.

Tsimerman đánh giá sự phát triển về năng lực toán học của AI đã bước vào giai đoạn đột phá. Trước đây AI chỉ giải được các bài toán ở trình độ phổ thông, giờ đây các mô hình AI đang giải quyết những vấn đề nghiên cứu chuyên môn, mà các nhà toán học chuyên nghiệp cũng có thể tự hào khi công bố. Ông dự đoán trong tương lai gần, AI có thể vượt trội con người về khả năng toán học, buộc lĩnh vực này phải thay đổi cách vận hành.

Nhà toán học này cũng chỉ ra cơ hội tăng tốc vượt bậc trong việc tạo ra kiến thức toán học mới, rút ngắn khoảng cách lâu dài giữa toán học thuần túy và ứng dụng thực tế. Song, ông cũng thừa nhận đây là thời kỳ bất ổn đối với các nhà toán học, đặc biệt là sinh viên tiến sĩ, vì kỹ năng truyền thống có thể mất dần giá trị.

Jacob Tsimerman cho biết ông theo dõi các vấn đề liên quan đến AI khoảng 20 năm, gia tăng quan tâm từ năm 2016 khi AlphaGo xuất hiện. Với sự phổ biến và sức mạnh ngày càng tăng của hệ thống AI như ChatGPT, ông nhận thấy nhu cầu cấp thiết phải tập trung vào an toàn AI, một lĩnh vực chưa nhiều nhà toán học khai thác.

Ông tin rằng toán học có thể cung cấp các công cụ định nghĩa chính xác, minh bạch cho AI, cải thiện khả năng dự đoán, kiểm soát và điều chỉnh hành vi của các hệ thống trí tuệ nhân tạo. Toán học tận dụng các nền tảng như lý thuyết thông tin và lý thuyết độ phức tạp để làm sáng tỏ cấu trúc bên trong AI vốn đang được phát triển như một khoa học thực nghiệm chưa hoàn chỉnh.

Jacob Tsimerman nhận định làm việc tại công ty tư nhân như OpenAI có ưu và nhược điểm, nhất là về việc có thể bị hạn chế độc lập trong nghiên cứu. Tuy nhiên, ông cho rằng cần một hệ sinh thái đa chiều gồm các phòng thí nghiệm, tổ chức độc lập và sự hỗ trợ chính phủ để phối hợp cho an toàn AI.

Chính tại OpenAI, Tsimerman có thể bù đắp hạn chế về kỹ năng lập trình phần mềm, đồng thời tiếp cận toàn bộ quy trình phát triển trí tuệ nhân tạo, một yếu tố quan trọng để hiểu và kiểm soát hệ thống AI trước những rủi ro tiềm năng.

Trước lời kêu gọi của hơn 1.000 nhân viên từ các công ty như OpenAI, Anthropic về việc xây dựng hạ tầng để kiểm soát tốc độ phát triển AI, Tsimerman nhấn mạnh tầm quan trọng của việc phối hợp hành động trong bối cảnh nhiều lợi ích và cạnh tranh từ các tổ chức tham gia. Ông phản đối tư duy bi quan cho rằng phối hợp là điều không thể, nhắc lại các ví dụ thành công như mạng internet là minh chứng cho khả năng phối hợp quốc tế phức tạp nhưng hiệu quả.

Tsimerman khẳng định mục tiêu của ông chỉ là bảo đảm an toàn cho AI, chứ không nghiên cứu nâng cao năng lực. Ông cho rằng năng lực AI đang phát triển tốt và không cần ưu tiên, trong khi lĩnh vực an toàn có rất nhiều việc phải làm.

Cuối cùng, Tsimerman cho biết hiện nay đã có thể yêu cầu các hệ thống AI như ChatGPT hoặc Claude code thử giải các bài toán mở chưa được giải quyết. Đây là bước tiến cho thấy AI đang thực sự bước vào thế giới toán học nghiên cứu chuyên sâu, mở ra nhiều tiềm năng song cũng là thử thách mới với các nhà toán học truyền thống.

Jacob Tsimerman hiện đang trong thời gian nghỉ phép tại Đại học Toronto để làm việc tại OpenAI và dự kiến tiếp tục gắn bó với cộng đồng học thuật trong tương lai gần. Ông thừa nhận các dự đoán về tương lai AI còn nhiều biến động và vẫn duy trì quan điểm cởi mở để theo dõi sự phát triển liên tục của lĩnh vực này.