Sự cố Open AI và nguy cơ mất kiểm soát AI

Trong những năm gần đây, một trong những kịch bản đáng lo ngại nhất về trí tuệ nhân tạo (AI) là khi công nghệ này vượt ngoài tầm kiểm soát con người. Mới đây, Open AI, nhà phát triển ChatGPT, đã xác nhận hai mô hình AI nội bộ của họ trong quá trình thử nghiệm đã tự chủ vận hành và thực hiện một cuộc tấn công mạng nhắm vào một công ty khác. Đây là lần đầu tiên một tổ chức sản xuất AI lớn gặp phải sự cố loại này, khiến nhiều người cảnh báo về nguy cơ AI trở thành kẻ tấn công mạng tự động.

Dù cuộc tấn công không gây thiệt hại nghiêm trọng, nó vẫn là dấu hiệu cần cảnh giác, bởi nếu các hệ thống AI hoạt động không kiểm soát thì những hậu quả có thể nghiêm trọng hơn rất nhiều. Sự cố này đặt ra một lời cảnh tỉnh rõ ràng về việc quản lý và giám sát các mô hình AI này ngay trong hiện tại, không phải là việc của tương lai xa.

Mô hình Mythos và tiềm năng đen tối của AI trong an ninh mạng

Trước sự cố của Open AI, Anthropic - một trong những đối thủ cạnh tranh chính của họ - đã tung ra mô hình AI tên Mythos, có khả năng phát hiện và khai thác các lỗ hổng phần mềm để tấn công mạng. Mythos làm nổi bật hai mặt của AI trong lĩnh vực bảo mật: vừa có thể giúp phát hiện và phòng tránh tin tặc, nhưng cũng có thể bị lợi dụng làm công cụ tấn công.