Giới hạn của AI để ngăn chặn hacker khiến nghiên cứu an ninh mạng bị ảnh hưởng

Trong suốt nhiều tháng qua, các tập đoàn công nghệ lớn đã thiết lập các chương trình giám sát và hạn chế chặt chẽ việc sử dụng mô hình AI nhằm ngăn chặn hacker độc hại lợi dụng để thực hiện các cuộc tấn công mạng. Tuy nhiên, chính những giới hạn này đang gây khó khăn cho các chuyên gia bảo vệ hệ thống và nhà nghiên cứu an ninh mạng tấn công (offensive cybersecurity), những người chuyên tìm ra và khai thác lỗ hổng để tăng cường an toàn mạng.

Ví dụ, vào tháng 6 năm nay, chính phủ Mỹ áp dụng các biện pháp kiểm soát xuất khẩu đối với các mô hình AI nổi bật của Anthropic là Mythos và Fable. Nguyên nhân được cho một phần bắt nguồn từ báo cáo chỉ ra khả năng vượt qua các lớp bảo vệ trong những mô hình này nhằm sử dụng AI cho các cuộc tấn công mạng. Mặc dù sau đó lệnh kiểm soát với Mythos 5 và Fable 5 đã được gỡ bỏ một phần, những hạn chế vẫn còn áp dụng đối với một số đối tượng người dùng Mỹ trong quá trình đánh giá tiếp theo.

Chương trình Xác thực và những rào cản với nhà nghiên cứu

Anthropic cùng OpenAI đều phát triển các chương trình cho phép các nhà nghiên cứu an ninh mạng được xác minh có thể truy cập vào các mô hình AI với hạn chế giảm thiểu nhằm phục vụ cho mục đích khám phá lỗ hổng. Anthropic phát triển Chương trình Xác thực An ninh mạng (Cyber Verification Program) và OpenAI vận hành Trusted Access for Cyber. Tuy vậy, các rào cản, quy trình kiểm duyệt, và giới hạn truy cập trong các chương trình này được nhiều chuyên gia cho là quá nghiêm ngặt, ảnh hưởng trực tiếp đến hiệu quả công việc.

Mark Dowd, một chuyên gia nghiên cứu bảo mật với nhiều thập kỷ kinh nghiệm trong việc phát hiện và bán những lỗ hổng “zero day” cho các chính phủ phương Tây cho biết ông không hài lòng với việc các tập đoàn lớn tự ý quyết định những gì được coi là an toàn, không an toàn trong lĩnh vực bảo mật. Dowd nhấn mạnh, những lỗ hổng chưa được phát hiện rất giá trị cho hoạt động tình báo và cần được nghiên cứu kỹ lưỡng để bảo vệ cũng như khai thác đúng cách.

Giới chuyên gia chia sẻ về tác động của giới hạn AI lên công tác bảo mật

Chris Anley, nhà khoa học trưởng tại NCC Group, nhận định việc sử dụng AI để thử khai thác lỗ hổng là bước quan trọng để xác nhận tính thực sự của vùng yếu và khắc phục kịp thời. Tuy nhiên, khi các giới hạn bảo vệ khiến mô hình AI từ chối phản hồi hoặc trả lời không đầy đủ, điều này sẽ làm giảm hiệu suất của nhà nghiên cứu và gây cản trở công việc bảo vệ hệ thống.

Anley so sánh công cụ AI giống như một chiếc búa, vừa là công cụ xây dựng cũng vừa là vũ khí nếu sử dụng sai mục đích. Do đó, quá trình phát hiện và vá lỗi bảo mật cần cả khả năng tấn công và phòng thủ phối hợp, khó có thể tách rời được.

Khi gặp các giới hạn nghiêm ngặt từ các mô hình AI thương mại, một số nhà nghiên cứu chuyển sang sử dụng các mô hình AI mã nguồn mở không kiểm duyệt với dữ liệu chạy cục bộ nhằm tránh rò rỉ thông tin nhạy cảm, theo chia sẻ của Paolo Stagno, giám đốc công nghệ của CrowdFense - công ty chuyên phát triển và cung cấp lỗ hổng ẩn cho các cơ quan chính phủ.

Quảng cáo300 × 250

Giuseppe Cali, một chuyên gia khác chuyên về lỗ hổng và khai thác, cho biết anh sử dụng AI cho các công việc hỗ trợ như phân tích ngược và phát triển công cụ, nhưng vẫn tự tay thực hiện việc tìm lỗi và khai thác chi tiết để giữ sự chủ động trong công việc.

Một nhân viên tại một công ty sản xuất linh kiện điện thoại cho biết do công ty không tham gia chương trình xác thực của Anthropic, các công cụ AI của công ty này trở nên gần như vô dụng trong việc tìm lỗ hổng vì lớp bảo vệ quá nghiêm ngặt.

Những hạn chế làm giảm hiệu quả và thúc đẩy lưu chuyển sang công nghệ nước ngoài

Chris Thompson, CEO của công ty an ninh mạng RemoteThreat, người sáng lập sự kiện Offensive AI Con dành cho bảo mật tấn công và AI, nhận xét các giới hạn AI hiện tại thiếu nhất quán, đôi khi thay đổi thường xuyên và gây tốn thời gian. Thay vì tập trung phân tích kỹ thuật, các nhà nghiên cứu phải dành không ít thời gian để giải quyết các vấn đề liên quan tới giới hạn của mô hình AI.

Thompson cho biết điều này đang khiến nhiều chuyên gia chuyển sang sử dụng các mẫu AI mã nguồn mở của Trung Quốc như GLM, với khả năng hoạt động trên máy cục bộ, không bị giới hạn hay kiểm duyệt. Ông cho rằng việc đẩy các nhà nghiên cứu khỏi hệ thống do Mỹ kiểm soát sang hệ thống do nước ngoài quản lý là điều có hại hơn lợi.

Ông kêu gọi các công ty AI nên mở rộng quyền truy cập hợp lý cho các nhà nghiên cứu có trách nhiệm đồng thời tăng cường trừng phạt những hành vi lạm dụng công cụ nhằm bảo đảm cuộc đua an ninh mạng trên nền tảng AI không bị thua thiệt.

Quảng cáo300 × 250

Thompson cảnh báo sắp có làn sóng tấn công mạng với tốc độ và quy mô chưa từng thấy, trong khi các nhà tư vấn bảo mật và chuyên gia nghiên cứu chân chính lại bị kìm hãm bởi các giới hạn quá mức trên công cụ AI họ cần.

Những điều bổ ích từ bài viết

  • Giới hạn AI do các công ty lớn đặt ra nhằm ngăn chặn hacker độc hại cũng cản trở công việc của nhà nghiên cứu an ninh mạng tấn công.
  • Chính phủ Mỹ từng áp dụng kiểm soát xuất khẩu để giới hạn truy cập các mô hình AI của Anthropic nhằm hạn chế nguy cơ vượt rào bảo vệ.
  • Các chương trình xác minh của Anthropic và OpenAI mở ra cơ hội truy cập AI ít giới hạn hơn cho nhà nghiên cứu nhưng vẫn không tránh khỏi những rào cản nghiêm ngặt.
  • Nhiều chuyên gia phải chuyển sang dùng mô hình AI mã nguồn mở không có giới hạn do tính linh hoạt và bảo mật dữ liệu.
  • Việc siết chặt giới hạn AI đang khiến các nhà nghiên cứu bị đẩy ra khỏi hệ thống do Mỹ kiểm soát sang các giải pháp nước ngoài, tiềm ẩn nguy cơ an toàn mạng.

Đăng ký bản tin QMVN

Nhận tin tổng hợp mỗi sáng - chỉ những bài đáng đọc, không spam.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.