Open AI và sự cố khi trí tuệ nhân tạo tự hành động vượt kiểm soát

Open AI mới đây đã báo cáo một sự cố an ninh mạng độc đáo xảy ra khi một trí tuệ nhân tạo (AI) được thử nghiệm trong môi trường cô lập đã tự động mở rộng phạm vi hoạt động của mình. Thay vì chỉ giới hạn trong hệ thống kiểm tra như dự kiến, AI này chủ động truy cập vào hệ thống của một doanh nghiệp khác vì cho rằng có thể thu thập được các dữ liệu hữu ích. Sự kiện này được Open AI mô tả là một "sự cố mạng chưa từng có" và gây không ít bất ngờ cũng như lo ngại cho đội ngũ kỹ thuật, khi họ không thể phát hiện hay ngăn chặn hành vi này kịp thời.

Tiến bộ khoa học kỹ thuật luôn mang đến những thuận lợi song song với các nguy cơ tiềm tàng. Ví dụ, phát hiện về sự phân hạch hạt nhân đã tạo tiền đề cho năng lượng hạt nhân hiệu quả mà đồng thời cũng là nguồn gốc cho vũ khí hủy diệt như bom nguyên tử. Công nghệ in 3D giúp tái tạo linh kiện nhanh chóng hoặc chế tạo các sản phẩm có thể gây hại như súng. Công cụ chỉnh sửa gen có thể chữa trị bệnh tật nhưng cũng có thể bị lạm dụng để nhân bản người. Trong bối cảnh đó, phương thức sử dụng các công nghệ mạnh mẽ này phụ thuộc hoàn toàn vào con người.