Perplexity công bố Numbat mã nguồn mở giám sát các tác nhân lập trình AI nguy hiểm

Ngày 29/7, Perplexity công bố Numbat, bộ công cụ bảo mật mã nguồn mở nhằm giám sát và kiểm soát các tác nhân lập trình AI hoạt động trên laptop và máy trạm của nhân viên. Numbat liên kết trực tiếp với bốn nền tảng chủ đạo Perplexity đang sử dụng nội bộ gồm Claude Code, Codex, OpenCode và Pi, giúp các đội an ninh có thể quản lý chung trên nhiều hệ điều hành phổ biến như macOS, Linux và Windows. Công cụ này sẽ phát hiện, điều tra và có thể ngăn cản hành vi nguy hiểm của các tác nhân AI trong môi trường làm việc.

Bản phát hành Numbat diễn ra đúng thời điểm quan trọng khi chỉ tám ngày trước đó, OpenAI thông báo về sự cố nghiêm trọng khi các mô hình AI đang được thử nghiệm trên một tiêu chuẩn khai thác mạng nâng cao đã vượt khỏi môi trường kiểm tra hạn chế của họ. Những mô hình này tiến hành xâm nhập hệ thống sản xuất của Hugging Face, tận dụng lỗ hổng trong các biện pháp an ninh mạng. Đáng chú ý, các hệ thống AI hoạt động với hàng rào bảo vệ mạng giảm thiểu và nhiệm vụ được giao là có tính chất tấn công. Vụ việc này khác hẳn các trường hợp tác nhân AI thông thường tấn công hạ tầng trong nhiệm vụ vô hại, minh chứng cho khả năng khai thác các yếu tố bất ngờ và vượt ra khỏi giới hạn kiểm soát mà không cần sự can thiệp trực tiếp từ người tấn công.