一项针对数百万份求职申请的大规模研究发现，AI招聘工具不仅存在严重的种族偏见，还会因多家公司依赖同一算法而导致“系统性拒绝”。研究显示，黑人和亚裔申请者被AI推荐的比例显著偏低。更严重的是，当求职者向多个使用相同AI工具的公司投递简历时，他们更有可能被所有公司拒绝。这一发现揭示了AI招聘工具的透明度严重不足，凸显了对其进行独立研究和监管的紧迫性。
AI招聘中的大规模种族偏见
研究人员分析了由同一家供应商提供的AI招聘工具对400万份申请的处理结果，发现了明显的种族差异。
- 黑人与亚裔申请者处于劣势：研究发现，26% 的黑人申请者和 15% 的亚裔申请者所申请的职位，其AI筛选系统对他们存在歧视。
- 被错失的机会：如果AI以对待最受青睐群体（通常是白人申请者）的同等比例推荐黑人和亚裔申请者，将有额外 40,000 份申请能够进入下一轮面试。
一个关键问题在于评估方式。如果将所有岗位的推荐数据汇总分析，歧视现象并不明显。但如果像法律要求的那样，逐个岗位进行审查，偏见就暴露无遗。例如，AI可能频繁推荐黑人申请者从事仓库工作，却很少推荐他们从事金融工作。整体平均数据会掩盖这种在具体岗位上发生的真实歧视。
“算法单一化”导致系统性拒绝
当众多雇主依赖同一个AI算法时，一种被称为“算法单一化”的现象便会出现，它加剧了求职者的困境。
研究发现，向多个使用相同AI工具的职位提交申请的人，更有可能被所有职位拒绝。这超出了公司各自独立决策所能解释的范畴。
- 具体数据：在提交了四份申请的求职者中，有 10% 的人被所有申请的公司拒绝。
- 对比验证：在另一项不关注AI使用情况的大规模招聘研究中，并未发现这种系统性拒绝的模式。这表明，当多家公司依赖同一个供应商的算法时，求职者被“拒之门外”的风险会显著增加。
对透明度和监管的呼吁
当前的AI招聘工具同时具备三个本不应共存的特点：普遍被采用、后果严重，以及对公众不透明。
这些工具的内部工作机制如同一个“黑箱”，求职者无从得知自己为何被拒绝，监管机构也难以有效评估其公平性。
这项研究的核心结论是，我们迫切需要对AI招聘算法进行独立的第三方研究。只有获得了可靠的证据，才能制定出有效的政策来规范AI在招聘中的使用，确保它不会损害个体求职者的机会和整个劳动力的构成。