Giới thiệu nền tảng Vera Rubin và thực tế vật lý của hạ tầng AI
Vào tuần trước, Nvidia tổ chức buổi giới thiệu dành riêng cho một số nhà báo về hệ thống hạ tầng AI, với mục đích minh họa rõ nét khía cạnh vật lý của trí tuệ nhân tạo giả lập. Ian Buck, tổng giám đốc bộ phận kinh doanh điện toán dành cho các trung tâm quy mô siêu lớn và HPC của Nvidia, nhấn mạnh: "Hạ tầng là vật lý, nó có thật, bạn có thể chạm vào và nhìn thấy nó, và chính hạ tầng đó góp phần tạo nên đời sống cho AI." Sự kiện bên cạnh việc thuyết trình còn có chuyến tham quan một phòng lab hoạt động, được thiết kế như trung tâm dữ liệu thu nhỏ, tọa lạc trong khu dân cư tại Sunnyvale, vùng ngoại ô Silicon Valley. Đây là một trong bốn cơ sở tương tự của Nvidia.
Hạ tầng AI là thực thể có thể cảm nhận được, không chỉ trên phương diện vật lý mà còn dưới dạng doanh thu khi thiết bị được đặt theo mô hình thuê kèm lưu kho. Thứ này càng quan trọng khi số lượng các hệ thống AI cấp doanh nghiệp ngày càng tăng, tạo nên luồng thu nhập mới cho các nhà cung cấp hạ tầng.
Tiết kiệm thời gian lắp ráp và hiệu suất vượt trội của Vera Rubin NVL72
Dẫn đầu chương trình điểm lại phần cứng mới, Andrew Bell, phó chủ tịch cấp cao mảng kỹ thuật phần cứng Nvidia, trình bày về sự cải tiến vượt trội trong thiết kế tấm tính toán (compute tray) Vera Rubin NVL72. So với thế hệ GB200 trước đây thường mất 90 phút để lắp ráp thủ công, tấm NVL72 có thể ráp hoàn chỉnh trong chỉ 1 phút với việc ứng dụng tự động hóa lắp ráp, nâng hiệu suất nhanh gấp 90 lần.







