Trí tuệ nhân tạo dễ hình thành thành kiến khi tuyển dụng hơn con người

Nghiên cứu mới do các nhà khoa học tại Đại học Princeton và Đại học Chicago thực hiện đã thử nghiệm các mô hình ngôn ngữ lớn (LLMs) như ChatGPT, Claude, và Gemini bằng một trò chơi tuyển dụng mô phỏng dựa trên một nghiên cứu tâm lý học về hình thành khuôn mẫu con người. Trong trò chơi này, mỗi mô hình nhập vai là cố vấn tuyển dụng cho thị trưởng một thành phố giả định và phải tuyển dụng người cho 20 vị trí việc làm khác nhau, từ bác sĩ, luật sư đến nhân viên chăm sóc trẻ em và lao công.

Các ứng viên đại diện cho bốn nhóm dân tộc giả tưởng: Tufa, Aima, Reku và Weki. Mỗi vòng tuyển dụng có một vị trí trống và bốn ứng viên, mỗi người thuộc một nhóm. Mô hình sau khi chọn ứng viên sẽ nhận phản hồi về thành công của họ trong công việc và tiếp tục vòng tiếp theo trong tổng số 40 vòng, với yêu cầu tối đa hóa số lượng tuyển dụng thành công. Tuy nhiên, thực tế là mọi ứng viên đều có xác suất thành công ngang nhau, không có nhóm nào nổi trội hơn.

Kết quả cho thấy các mô hình ngôn ngữ lớn nhanh chóng phân loại ứng viên vào các ngành nghề khác nhau dựa trên dữ liệu quan sát ban đầu dù thông tin đó chưa phản ánh đúng năng lực thực tế. Ví dụ, khi một Aima thất bại ở vị trí bác sĩ, một công việc đòi hỏi sự ấm áp và khả năng cao, AI bắt đầu hạn chế việc tuyển dụng Aima làm bác sĩ mà chuyển họ sang các vị trí như lao công, mà mô hình đánh giá là kém ấm áp và ít khả năng hơn.

So sánh với con người trong nghiên cứu gốc, các LLM có xu hướng định kiến về nhóm dân tộc cao hơn tới 65%. Trên thang đo phân biệt nghề nghiệp, nơi điểm 2 tương ứng với việc nhóm người chỉ làm trong một ngành nghề duy nhất, con người đạt 0,84, trong khi mô hình o3 của OpenAI đạt 1,83 gần mức tối đa.

Ryan Liu, tác giả nghiên cứu và nghiên cứu sinh tại Đại học Princeton, giải thích rằng LLM được tối ưu hóa để rút ra các tổng quát hóa từ dữ liệu hạn chế, vốn là đặc điểm cần thiết cho các tác vụ như toán học và mã hóa. Tuy nhiên, đặc tính này khiến chúng quá nhanh chóng kết luận vội vàng về các mẫu hình xã hội và phân biệt nhóm.

Khi lựa chọn giữa khám phá điều mới và tận dụng những gì đã biết (được gọi là thách thức “khám phá - khai thác”), LLM lại thiên về khai thác quá sớm dựa vào dữ liệu ít ỏi, gây ra việc hình thành định kiến không khách quan. Các mô hình mới hơn như OpenAI o3 hay DeepSeek R1 thậm chí thể hiện định kiến lớn hơn do năng lực suy luận cao hơn.

Theo Angelina Wang, nhà khoa học máy tính tại Đại học Cornell, việc chatbot có bộ nhớ cải tiến và khả năng cá nhân hóa dễ khiến chúng dựa vào các hành vi đã trải qua để hình thành thành kiến. Việc giới hạn bộ nhớ không phải là giải pháp triệt để vì người dùng muốn chatbot ghi nhớ những gì họ nói. Hiện vẫn chưa có sự cân bằng hoàn hảo giữa việc ghi nhớ đủ và tránh thành kiến.

Nghiên cứu cũng chỉ ra rằng việc cung cấp cho AI thông tin cá nhân liên quan đến khả năng thích nghi như tuổi tác và trình độ học vấn giúp giảm định kiến phân biệt dân tộc. Ngược lại, khi AI nhận những thông tin không liên quan như màu tóc hay hình xăm, chúng lại dễ dàng rơi vào khuôn mẫu phân biệt chủng tộc.

Khi yêu cầu mô hình hành xử công bằng, kết quả không thay đổi nhiều vì giá trị đó thường bị lu mờ dưới áp lực tối ưu hóa kết quả tuyển dụng. Tuy nhiên, khi AI được thưởng thêm cho việc tuyển dụng đa dạng hơn, mức định kiến giảm đáng kể. Cách tiếp cận hiệu quả là thiết kế mục tiêu cho mô hình chứa đựng các giá trị xã hội mong muốn để thúc đẩy hành vi đúng đắn.

Trong thực tế, LLM không nhận được phản hồi ngay lập tức về thành công tuyển dụng như trong mô phỏng, nên mức độ ảnh hưởng thành kiến có thể khác. Nhưng khi có dữ liệu phản hồi tới, AI vẫn có thể sai lệch trong đánh giá và tuyển dụng tương lai. Điều này trở nên quan trọng khi ngày càng nhiều công ty ứng dụng AI trong tuyển dụng từ sàng lọc hồ sơ đến phỏng vấn.

Ryan Liu nhấn mạnh sự phát sinh thành kiến mới của AI dựa trên trải nghiệm riêng biệt mà không phải do con người dạy, khiến việc kiểm soát và ngăn ngừa các thành kiến này càng cấp thiết.

Bài viết được biên tập với sự hỗ trợ của công cụ trí tuệ nhân tạo (AI), tổng hợp từ các nguồn tin dẫn bên dưới và đã qua kiểm duyệt của toà soạn Quang Minh Việt Nam.