Văn hóa đơn điệu của thuật toán trong tuyển dụng: Khi AI tạo ra sự bất bình đẳng lớn hơn

Một nghiên cứu quy mô lớn với dữ liệu từ 3,4 triệu ứng viên đã chỉ ra rằng việc các nhà tuyển dụng sử dụng chung các thuật toán từ một số ít nhà cung cấp đang tạo ra "văn hóa đơn điệu" trong tuyển dụng. Điều này không chỉ dẫn đến sự chênh lệch về chủng tộc mà còn gây ra tình trạng từ chối hệ thống, nơi ứng viên bị loại ở khắp mọi nơi. Bài viết đề xuất các giải pháp pháp lý và kỹ thuật để giám sát và giảm thiểu rủi ro từ các nền tảng tuyển dụng tự động.

Hiện nay, hơn 90% nhà tuyển dụng tại Mỹ phụ thuộc vào các thuật toán để sàng lọc hồ sơ ứng viên. Tuy nhiên, vấn đề đáng báo động không chỉ nằm ở việc sử dụng công nghệ, mà là sự phụ thuộc vào cùng một hệ thống từ một số ít nhà cung cấp. Một nghiên cứu quy mô lớn nhất từng được thực hiện về tuyển dụng thuật toán, với dữ liệu từ 3,4 triệu ứng viên nộp 4 triệu đơn đăng ký cho 156 nhà tuyển dụng, đã chỉ ra rằng sự phụ thuộc này tạo ra một "văn hóa đơn điệu của thuật toán" (algorithmic monoculture), gây nghẽn cơ hội việc làm và gia tăng bất bình đẳng.

Quy trình tuyển dụng thuật toán

Sự chênh lệch chủng tộc ẩn giấu trong dữ liệu

Mặc dù các nghiên cứu trước đây cho thấy tác động tiêu cực của thuật toán là không đáng kể khi nhìn vào tổng thể dữ liệu, nghiên cứu mới này đã phát hiện ra những bất bình đẳng nghiêm trọng khi phân tích riêng từng vị trí tuyển dụng. Theo Đạo luật Quyền Dân sự Title VII của Mỹ, việc đánh giá tác động bất lợi cần được thực hiện ở cấp độ cụ thể chứ không phải là các số liệu tổng hợp.

Kết quả cho thấy ứng viên da màu là nhóm chịu ảnh hưởng bất lợi nhiều nhất. Cụ thể, 30% ứng viên da đen nộp đơn vào ít nhất một vị trí có sự chênh lệch tỷ lệ chọn lọc chống lại họ. Về tổng thể, ứng viên châu Á chịu thiệt thòi lớn nhất với khoảng 29.000 đơn đăng bổ sung lẽ ra được khuyến nghị nếu tỷ lệ chọn lọc công bằng được áp dụng.

Tác động bất lợi theo chủng tộc

Nguy cơ từ chối hệ thống

Một trong những hậu quả đáng lo ngại nhất của văn hóa đơn điệu thuật toán là tình trạng "từ chối hệ thống". Khi một ứng viên nộp đơn vào nhiều vị trí khác nhau nhưng đều bị đánh giá bởi cùng một thuật toán từ một nhà cung cấp, họ có nguy cơ nhận kết quả giống hệt nhau.

Thực tế, 10% số ứng viên nộp 4 đơn đăng ký đã bị từ chối ở tất cả các nơi. Tỷ lệ từ chối này vượt xa mức cơ bản dự kiến nếu các quyết định tuyển dụng là độc lập với nhau (χ2 = 18.481, p < 0.001). Điều này cho thấy sự tập trung của thuật toán làm gia tăng đáng kể rào cản gia nhập thị trường lao động.

Mô phỏng và thực tế

Để làm rõ hơn vấn đề, các nhà nghiên cứu đã đưa ra giả thuyết: Điều gì sẽ xảy ra nếu ứng viên nộp đơn rộng rãi hơn so với thực tế? Liệu điều này có làm giảm khả năng bị từ chối hệ thống không?

Kết quả cho thấy rằng nếu ứng viên nộp đơn đại trà ở khắp mọi nơi, khả năng cao họ sẽ nhận được ít nhất một lời khuyên. Tuy nhiên, trong hành vi thực tế, ứng viên cần phải nộp tới 25 đơn để đảm bảo 99,9% cơ hội nhận được một lời khuyên, so với con số chỉ là 10 đơn nếu các quyết định là độc lập.

Mô phỏng tỷ lệ từ chối

Đề xuất giải pháp và khung pháp lý

Hệ thống tuyển dụng bằng AI hiện đang chịu sự điều chỉnh của nhiều luật pháp như Đạo luật Quyền Dân sự Mỹ, Đạo luật AI của EU và Luật địa phương 144 của New York. Tuy nhiên, các hướng dẫn hiện tại chưa giải quyết đầy đủ các tác động ở cấp độ vị trí công việc như nghiên cứu đã chỉ ra.

Để giải quyết vấn đề này, các chuyên gia đề xuất một số giải pháp chính:

Đo lường tác động bất lợi theo từng vị trí: Các cơ quan quản lý và kiểm toán viên nên đánh giá tỷ lệ tác động bất lợi ở cấp độ từng vị trí tuyển dụng riêng lẻ. Các phân tích chỉ dựa trên số liệu tổng hợp có thể che giấu sự tác động khác biệt.
Tăng cường giám sát thị trường: Các cơ quan liên bang nên định lượng tỷ lệ kết quả đồng nhất. Nếu không có các liên kết chéo giữa các nhà tuyển dụng, các báo cáo hiện tại sẽ không thể bắt được tình trạng từ chối hệ thống.
Giám sát văn hóa đơn điệu của thuật toán: Các nhà hoạch định chính sách cần giám sát các sự phụ thuộc chung trong chuỗi cung ứng tuyển dụng. Sự phụ thuộc tập trung vào cùng một hệ thống có thể dẫn đến các lỗi có tương quan, từ chối hệ thống và giảm sự cạnh tranh trong tuyển dụng.
Mở quyền truy cập cho nhà nghiên cứu: Các nhà lập pháp nên khuyến khích nghiên cứu độc lập, bao gồm cả quyền truy cập vào dữ liệu cơ bản, đối với các nền tảng tuyển dụng lớn. Các vấn đề sẽ rất khó chẩn đoán, chưa nói đến việc khắc phục, nếu thiếu nền tảng của các cuộc điều tra thực nghiệm độc lập.

Việc nhận thức và điều chỉnh các thuật toán tuyển dụng không chỉ là vấn đề kỹ thuật mà còn là yêu cầu cấp thiết để đảm bảo công bằng và bình đẳng trong thị trường lao động số hiện nay.