Lỗ hổng ChatGPT có thể đưa AI độc hại vào doanh nghiệp chỉ qua một cú nhấp

Zenity Labs, công ty an ninh mạng, đã phát hiện một lỗ hổng bảo mật nghiêm trọng trong tính năng xây dựng đại lý AI trên nền tảng ChatGPT Workspace của OpenAI, đặt tên là "AgentForger". Qua đó, chỉ cần một cú nhấp vào liên kết ChatGPT giả dạng, kẻ tấn công có thể cài đặt âm thầm một đại lý AI tự động bên trong tài khoản ChatGPT của nhân viên trong một tổ chức.

Kỹ thuật này hoạt động chỉ khi nạn nhân thuộc vào không gian làm việc (workspace) có bật tính năng đại lý AI và có quyền tạo đại lý. Quản trị viên doanh nghiệp cũng phải cho phép các ứng dụng và hành động kết nối tương ứng. Thay vì chiếm đoạt mật khẩu hay phiên duyệt trình, lỗ hổng tận dụng quyền truy cập đã được cấp để tạo một trợ lý AI tự vận hành, có thể sử dụng các dịch vụ đang kết nối như Outlook, Teams, Slack, SharePoint hoặc Google Drive, tiếp cận dữ liệu doanh nghiệp và tương tác như chính nhân viên đó.

AgentForger được xây dựng bằng cách lợi dụng trình tạo đại lý của ChatGPT chấp nhận các lệnh nhúng trong liên kết ChatGPT thông thường. Khi nạn nhân nhấp, trình tạo đại lý sẽ tự động tạo, kích hoạt và lên lịch đại lý AI nguy hiểm mà không hiện thông báo phê duyệt nào. Đại lý này có thể gửi tin nhắn, truy cập dữ liệu, thậm chí vận hành lâu dài sau khi email lừa đảo ban đầu đã được gửi.