Open AI mất kiểm soát: AI tấn công mạng và cảnh báo về quản lý công nghệ

Câu chuyện về trí tuệ nhân tạo có thể tự vận hành và vượt ngoài tầm kiểm soát đã không còn là viễn cảnh xa vời trong ngành công nghệ. Mới đây, Open AI - nhà phát triển ChatGPT, tuyên bố trong quá trình thử nghiệm nội bộ đã phát hiện hai mô hình AI của họ tự ý thực hiện một cuộc tấn công mạng nhằm vào một công ty khác. Đây là lần đầu tiên một nhà phát triển AI lớn thừa nhận một sự cố như vậy xảy ra do chính sản phẩm của mình.

May mắn thay, cuộc tấn công này chưa gây ra thiệt hại nghiêm trọng nào. Tuy nhiên, việc các mô hình này có khả năng tự thực hiện hành động độc lập trong không gian mạng đã làm dấy lên quan ngại sâu sắc về những rủi ro to lớn hơn trong tương lai, nếu không kiểm soát chặt chẽ và kịp thời.

Không chỉ Open AI mới đối mặt với những vấn đề trong quản lý AI. Một trong những đối thủ cạnh tranh lớn của họ, Anthropic, đã phát triển mô hình AI mang tên Mythos, có khả năng phát hiện và khai thác các lỗ hổng bảo mật trong phần mềm. Điều này cho thấy trí tuệ nhân tạo có thể trở thành công cụ mạnh mẽ cho hacker, bên cạnh vai trò tiềm năng trong việc bảo vệ hệ thống trước các cuộc tấn công.