Văn hóa đơn điệu thuật toán trong tuyển dụng: Nguy cơ từ sự thống trị của các nền tảng AI

Hơn 90% nhà tuyển dụng tại Mỹ hiện nay phụ thuộc vào các thuật toán để sàng lọc hồ sơ ứng viên. Tuy nhiên, việc nhiều công ty sử dụng chung các thuật toán từ một số ít nhà cung cấp đang tạo ra một hiện tượng được gọi là "văn hóa đơn điệu thuật toán" (algorithmic monoculture). Một nghiên cứu quy mô lớn nhất từng được thực hiện về lĩnh vực này đã cảnh báo về những rủi ro tiềm ẩn của sự đồng nhất này đối với cơ hội việc làm và sự công bằng trong xã hội.

Nghiên cứu quy mô lớn về tuyển dụng thuật toán

Nghiên cứu đã phân tích dữ liệu của 3,4 triệu ứng viên thực tế nộp 4 triệu đơn đăng ký cho 156 nhà tuyển dụng thuộc 11 lĩnh vực thị trường khác nhau. Điểm đặc biệt là mọi đơn đăng ký trong bộ dữ liệu này đều được đánh giá bởi các thuật toán từ một nhà cung cấp duy nhất. Điều này cho phép các nhà nghiên cứu kiểm tra xem liệu sự độc quyền trong công nghệ tuyển dụng có đang tạo ra các "nút thắt cổ chai" cho cơ hội việc làm hay không.

Quy trình tuyển dụng qua thuật toán

Kết quả là lần đầu tiên, chúng ta có bằng chứng quy mô lớn chứng minh sự chênh lệch chủng tộc và các kết quả đồng nhất (homogeneous outcomes) trong các quyết định tuyển dụng quan trọng. Hơn 60% các công ty trong danh sách Fortune 100 sử dụng thuật toán từ HireVue, cho thấy mức độ tập trung cao của thị trường này.

Bất bình đẳng chủng tộc trong các quyết định thuật toán

Đạo luật Quyền Công dân Mỹ Title VII quy định về sự phân biệt đối xử trong tuyển dụng. Các nghiên cứu trước đây thường chỉ tìm thấy tác động tiêu cực rất hạn chế trong dữ liệu tuyển dụng thuật toán khi nhìn vào tổng thể. Tuy nhiên, bằng cách nghiên cứu từng vị trí công việc riêng biệt, nghiên cứu này đã phát hiện ra những tác động bất lợi trước đây bị bỏ qua.

Tác động tiêu cực theo chủng tộc

Ứng viên da đen là nhóm chịu ảnh hưởng bất lợi nhiều nhất: 30% ứng viên da đen nộp đơn vào ít nhất một vị trí thể hiện sự tác động tiêu cực đối với nhóm của họ. Về tổng thể tác động, ứng viên châu Á chịu sự thiếu hụt lớn nhất: nếu người châu Á được chọn với tỷ lệ tương tự như nhóm chủng tộc được chọn nhiều nhất cho từng vị trí, thì sẽ có 29.000 đơn đăng ký thêm của người châu Á được đề xuất.

Nguy cơ từ chối hệ thống

Khi một ứng viên nộp đơn cho nhiều vị trí khác nhau, họ có thể nhận được cùng một kết quả. Văn hóa đơn điệu thuật toán có thể làm cho khả năng này trở nên cao nhất. Nếu điều này xảy ra, các trường hợp bị từ chối trên diện rộng — nơi ứng viên bị từ chối ở khắp mọi nơi — sẽ đặc biệt đáng lo ngại.

Sự đồng nhất trong kết quả đánh giá

Trong số những ứng viên nộp 4 đơn, có tới 10% bị từ chối hệ thống. Tỷ lệ từ chối hệ thống quan sát được này vượt xa đáng kể so với tỷ lệ cơ bản dự kiến trong các quyết định độc lập (χ2 = 18.481, p < 0,001). Để làm rõ bối cảnh, các nhà nghiên cứu đã so sánh với dữ liệu từ nghiên cứu lớn nhất trước đây về tuyển dụng (Kline et al., 2022), và kết quả cho thấy mức độ đồng nhất dư thừa là đặc trưng riêng của việc đánh giá thuật toán tập trung.

Thách thức cho người tìm việc

Nếu người nộp đơn ứng tuyển rộng rãi hơn so với thực tế, liệu điều này có làm giảm khả năng bị từ chối hệ thống không? Khi ứng viên nộp đơn ở khắp mọi nơi, nghiên cứu thấy rằng ít nhất một mô hình sẽ đề xuất họ. Tuy nhiên, dưới hành vi thực tế hơn, ứng viên cần gửi tới 25 đơn để đảm bảo có ít nhất một lời đề xuất với xác suất 99,9% — so với chỉ 10 đơn nếu các quyết định là độc lập.

Khuyến nghị về chính sách và quản lý

AI tuyển dụng hiện đang chịu sự điều chỉnh của luật chống phân biệt đối xử trong việc làm, các quy định AI chung và các quy tắc cụ thể cho tuyển dụng thuật toán. Tại Mỹ, Title VII đã đánh giá tác động tiêu cực ở cấp độ các công việc cụ thể chứ không phải là tổng hợp chung. Tuy nhiên, các hướng dẫn hiện tại chưa giải quyết đầy đủ các tác động ở cấp độ vị trí mà nghiên cứu này ghi nhận.

Để giải quyết vấn đề này, các chuyên gia đưa ra một số khuyến nghị:

• Đo lường tác động tiêu cực theo từng vị trí: Các cơ quan quản lý và kiểm toán viên nên đánh giá tỷ lệ tác động tiêu cực ở cấp độ từng vị trí công việc riêng lẻ. Các phân tích chỉ dựa trên tổng thể có thể che giấu tác động khác biệt.
• Tăng cường giám sát thị trường: Các cơ quan liên bang nên định lượng tỷ lệ kết quả đồng nhất. Nếu không có các liên kết chéo giữa các nhà tuyển dụng, các báo cáo hiện tại sẽ không thể bắt được tình trạng từ chối hệ thống.
• Giám sát văn hóa đơn điệu thuật toán: Các nhà hoạch định chính sách cần giám sát các sự phụ thuộc chung trong chuỗi cung ứng tuyển dụng. Sự phụ thuộc tập trung vào cùng một hệ thống có thể dẫn đến các lỗi tương quan, từ chối hệ thống và giảm sự cạnh tranh trong tuyển dụng.
• Mở rộng quyền truy cập cho nhà nghiên cứu: Các nhà lập pháp nên khuyến khích nghiên cứu độc lập, bao gồm cả quyền truy cập dữ liệu cơ bản, vào các nền tảng tuyển dụng lớn. Nếu không có cơ sở của các cuộc điều tra thực nghiệm do bên ngoài thực hiện, các vấn đề sẽ khó chẩn đoán, chứ chưa nói đến việc khắc phục.