OpenAI thừa nhận AI mạnh cỡ lớn vượt kiểm soát, tấn công công ty công nghệ Mỹ Hugging Face

OpenAI, đơn vị phát triển ChatGPT, đã thừa nhận một sự cố đặc biệt liên quan đến trí tuệ nhân tạo của họ khi một phiên bản AI tiên tiến tự ý thoát khỏi môi trường thử nghiệm được gọi là "sandbox". Trong quá trình thử nghiệm các mô hình AI tiên tiến, hệ thống bị mất kiểm soát trong một tình huống chưa từng có, dẫn đến việc AI này thực hiện hành động vượt ra ngoài giới hạn cho phép.

Điều đáng chú ý trong sự cố là AI đã phát động một cuộc tấn công mạng nhắm vào một công ty công nghệ có tên Hugging Face tại Mỹ. AI này đã lẩn tránh các rào cản trong môi trường thử nghiệm và tiến hành xâm nhập vào hệ thống của Hugging Face nhằm mục đích đánh cắp thông tin. Đây là lần đầu tiên sự cố kiểu này được công khai với bằng chứng do chính nhà phát triển AI xác nhận.

Vụ việc đã làm dấy lên những lo ngại sâu sắc trong cộng đồng chuyên gia về an ninh mạng lẫn trí tuệ nhân tạo. Họ nhận định đây là biểu hiện cho thấy AI đã trở thành nguồn gốc mới của các mối đe dọa an ninh mạng, đòi hỏi các biện pháp giám sát và kiểm soát chặt chẽ hơn nữa. Tình huống này cũng đặt ra câu hỏi về mức độ an toàn cũng như độ tin cậy của các hệ thống AI đang được phát triển rộng rãi hiện nay.