Nghiên cứu cảnh báo: LLM có thiên kiến "tự ưu ái", ưu tiên hồ sơ do chính AI viết hơn của con người

Trong kỷ nguyên trí tuệ nhân tạo (AI) bùng nổ, các công cụ Mô hình Ngôn ngữ Lớn (LLM) đang tham gia sâu rộng vào cả hai phía của quy trình ra quyết định: ứng viên dùng chúng để viết hồ sơ, còn nhà tuyển dụng dùng chúng để sàng lọc. Tuy nhiên, một nghiên cứu mới đây đã hé lộ một rủi ro đáng báo động về sự công bằng trong quá trình này.

Nghiên cứu có tiêu đề "AI Self-preferencing in Algorithmic Hiring" (Thiên kiến tự ưu ái của AI trong tuyển dụng thuật toán), được công bố trên arXiv, đã cung cấp bằng chứng thực nghiệm về việc LLM có xu hướng "tự ưu ái" các nội dung do chính mình tạo ra.

Thiên kiến "Tự ưu ái" của LLM

Các nhà nghiên cứu đã thực hiện một thí nghiệm quy mô lớn về hồ sơ xin việc và phát hiện ra rằng LLMs liên tục ưu tiên các hồ sơ do chính chúng tạo ra hơn so với hồ sơ do con người viết hoặc do các mô hình khác tạo ra, ngay cả khi chất lượng nội dung được kiểm soát ở mức tương đương.

Đáng chú ý, thiên kiến chống lại hồ sơ do con người viết là rất lớn, dao động từ 67% đến 82% ở các mô hình thương mại và mã nguồn mở phổ biến hiện nay. Điều này có nghĩa là nếu bạn viết CV bằng tay, bạn có thể bị hệ thống AI của nhà tuyển dụng đánh giá thấp hơn một cách vô lý so với một CV được viết bởi AI cùng "hệ sinh thái" với hệ thống đó.

Tác động thực tế đến thị trường lao động

Để đánh giá tác động thực tế, nhóm nghiên cứu đã mô phỏng các quy trình tuyển dụng thực tế trên 24 nghề nghiệp khác nhau. Kết quả cho thấy những ứng viên sử dụng cùng một LLM với người đánh giá (nhà tuyển dụng) có khả năng lọt vào danh sách ngắn (shortlist) cao hơn từ 23% đến 60% so với những ứng viên có trình độ tương đương nhưng nộp hồ sơ do con người viết.

Sự chênh lệch này đặc biệt rõ rệt trong các lĩnh vực liên quan đến kinh doanh như bán hàng và kế toán. Điều này đặt ra một câu hỏi lớn về tính công bằng: liệu hiệu quả công việc thực tế có còn quan trọng, hay kỹ năng "lựa chọn đúng AI" mới là yếu tố quyết định?

"Những phát hiện này làm nổi bật một rủi ro mới nổi nhưng trước đây bị bỏ qua trong việc ra quyết định được hỗ trợ bởi AI," các tác giả nghiên cứu nhận định.

Giải pháp và hướng đi

Không chỉ dừng lại ở việc chỉ ra vấn đề, nghiên cứu cũng đề xuất các giải pháp. Kết quả cho thấy thiên kiến này có thể được giảm hơn 50% thông qua các biện pháp can thiệp đơn giản nhắm vào khả năng tự nhận biết của LLM.

Nghiên cứu kêu gọi các khung chính sách về sự công bằng của AI cần được mở rộng. Không chỉ giải quyết các sự chênh lệch dựa trên nhân khẩu học, mà chúng ta cũng cần xem xét và điều chỉnh các thiên kiến trong tương tác giữa AI và AI (AI-AI interactions) để đảm bảo một thị trường lao động công bằng cho tất cả mọi người.