Chiêu trò sử dụng AI gian lận hệ thống pháp luật: Một loại hình lừa đảo vô hình

Gần đây, một tòa lao động ở phía bắc Brazil tiếp nhận đơn kiện của một cá nhân bị thuê lao động gian dối trong ba năm. Ban đầu, vụ việc dường như bình thường, nhưng sau đó lại lộ ra chi tiết chưa từng có liên quan đến cách thức sử dụng trí tuệ nhân tạo (AI) trong quá trình xét xử. Các luật sư của nguyên đơn đã khéo léo chèn một đoạn lệnh ẩn, viết chữ màu trắng trên nền trắng trong bản kiến nghị gửi cho tòa. Đoạn lệnh này chỉ có thể nhận biết bởi hệ thống AI của tòa mang tên Galileu, nhằm yêu cầu hệ thống trả lời vụ kiện một cách sơ sài và không đấu tranh với các tài liệu được đệ trình.

Tuy nhiên, chính AI đã phát hiện ra mưu mẹo này và báo cáo lại. Thẩm phán sau đó đã áp dụng biện pháp xử phạt đối với nhóm luật sư có liên quan. Đáng chú ý, khi phóng viên EL PAÍS cố liên hệ với họ qua trang LinkedIn thì không có phản hồi.

Chuyên gia Marcelo Quaglia, thẩm phán và giáo sư người Argentina đồng tác giả nghiên cứu về vụ việc, cho biết tình huống này không phải khoa học viễn tưởng mà là điều hoàn toàn có thể xảy ra trong tương lai gần của lĩnh vực pháp lý. Luật sư Abel Gende, người đứng đầu văn phòng luật riêng và cũng là chuyên gia về AI trong pháp luật, nhấn mạnh pháp luật đã nhận diện sớm các nguy cơ này. Tháng 1 năm nay, Hội đồng Tư pháp Quốc gia Tây Ban Nha đã ban hành mệnh lệnh hướng dẫn sử dụng AI dành cho thẩm phán, không cấm mà chỉ định rõ việc hỗ trợ phân tích, phân loại và tổ chức tài liệu hồ sơ, vốn là lĩnh vực có thể bị khai thác để gian lận như ở Brazil.

Chiêu thức mà các luật sư Brazil sử dụng được gọi là "prompt injection" (chèn lệnh ẩn), vốn phổ biến trong lĩnh vực AI, là việc đưa các lời nhắc bí mật vào trong văn bản để công cụ AI xử lý theo một cách bị thao túng. Tình huống tương tự từng xảy ra ở giáo dục khi giáo viên dùng kỹ thuật này để phát hiện sinh viên sao chép nội dung từ chatbot, hoặc trong tuyển dụng nhằm phân biệt ứng viên, thậm chí được tin tặc sử dụng với mục đích truy cập trái phép hệ thống.

Hệ thống Galileu tại tòa Brazil đóng vai trò trợ lý cho thẩm phán trong việc soạn thảo các bản dự thảo phán quyết, bằng cách phân tích tài liệu và sắp xếp các điểm chính. Tuy nhiên, nó không tự đánh giá bằng chứng hay phân tích pháp lý mà mọi đề xuất đều cần có sự thẩm định của con người. Kỹ thuật gian lận của các luật sư nhằm loại bỏ bằng chứng trước khi thông tin đến tay thẩm phán thông qua quá trình xử lý của Galileu.

Tại Tây Ban Nha, hệ thống tương tự chưa được triển khai nhưng xu hướng sử dụng AI trong tố tụng đang được dự báo sẽ tăng. Không chỉ một vụ án, nhiều tòa án khác ở Brazil gần đây cũng phát hiện những trường hợp tương tự, như một luật sư ở São Paulo chèn lệnh ẩn yêu cầu AI tự động cấp trợ giúp pháp lý và hủy bỏ xét duyệt cùng triệu tập bị cáo vì tất cả hồ sơ đã được nộp đầy đủ.

Không chỉ nguy cơ AI thay thế thẩm phán trong việc đưa ra phán quyết, mà còn có nguy hiểm tinh vi hơn khi AI bị lạm dụng khiến quá trình đọc hiểu và xử lý dữ liệu bị sai lệch ngay từ giai đoạn trước phán quyết. Đây là một dạng "lừa đảo vô hình", bởi nó không giả mạo nội dung mà thao túng cách thông tin được tiếp nhận và giải thích.

Nguy cơ cũng lan rộng khi các tài liệu pháp lý trao đổi giữa các văn phòng luật có thể xuất hiện các đoạn lệnh ẩn bất cứ lúc nào, khó phát hiện vì được ẩn trong khoảng trắng hoặc chữ nhỏ. Luật sư Abel Gende nhấn mạnh việc sử dụng AI bị sai lệch sẽ đặt ra áp lực rất lớn cho đạo đức nghề nghiệp, khi mà các luật sư có trách nhiệm bảo vệ quyền lợi khách hàng nhưng cũng cần tránh lừa dối tòa án.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.