AI 简历筛选可能存在偏见,因为它从过去的招聘中学习,并会读取姓名、大学和毕业年份等代理特征。在依赖它之前先做检验:用已招满的岗位测试,在法律允许的范围内比较不同候选人群体的结果,去除代理字段,并让一位指定人员决定每一份候选名单和每一次拒绝。
要点速览
- 筛选中的偏见通常来自数据和标准,而不是模型粗心大意。
- 任何筛选工具在接触真实候选人之前,都要先用已招满的岗位测试。
- 留意代理特征:姓名、照片、国籍、毕业年份、职业空档期和大学名称。
- 每一份候选名单和每一次拒绝都由人决定,并用其本人的话记录理由。
- 每次更改模型、提示或标准之后,都要重新测试。
#偏见是如何进入 AI 筛选的?
最著名的案例至今仍有启发意义。据 路透社经 Euronews 报道(2018 年 10 月),亚马逊放弃了一款实验性的招聘工具,因为它学会了给含有“women's”(女子)一词的简历扣分,原因是它的训练数据是十年来以男性为主的录用记录。没有人让它歧视;是历史数据让它这样做的。
如今的语言模型并不是用你们的录用记录训练的,但它们仍会捕捉到某些模式。让它按“高度匹配”给简历排序,它就会套用自己对“匹配”的理解,可能偏向某些大学、没有中断的职业经历,或者在并不需要的岗位上偏向英语流利度。
#招聘中使用 AI 适用哪些规定?
各国规定不同,所以请把这当作一张地图,而不是法律意见。Lewis Silkin(2024 年 4 月) 解释说,欧盟人工智能法案把用于招聘和甄选的 AI 列为高风险,大多数雇主属于部署者。欧盟委员会人工智能法案服务台,2026 年 11 月查阅 把筛选候选人的职位匹配和排序工具列为高风险用途的示例。
据 纽约市消费者与劳动者保护局常见问题,2026 年 11 月查阅,在纽约市,雇主和职业中介未经偏见审计,不得使用自动化雇用决策工具。海湾地区的雇主在处理候选人数据时,还需遵守阿联酋个人数据法和沙特阿拉伯的个人数据保护法(PDPL)。请向你们的法律顾问确认哪些规定适用于你们的招聘。
在使用之前如何测试筛选工具?
- 先写标准:在阅读任何简历之前,与用人经理商定该岗位的必备条件。
- 去除代理字段:在模型看到简历之前,删除姓名、照片、出生日期、国籍和婚姻状况,并检查毕业年份和空档期。
- 回放过往岗位:用已招满岗位的匿名简历运行工具,把它的候选名单与招聘专员的进行对比。
- 跨群体比较:在法律允许持有相关数据的情况下,比较不同候选人群体的通过率,并调查任何差距。
- 替换测试:在其他内容完全相同的简历上只改一个细节,例如姓名或大学,看结果是否变化。
- 检查隐藏文字:留意简历中的白色文字或指令,这是 OWASP 大语言模型应用十大风险 中排名 LLM01 的提示注入风险。
举例说明(数字为假设):如果工具在一个群体的 100 份简历中通过了 40 份,而在资历相近的另一个群体的 100 份中只通过了 25 份,那么这个差距需要在上线前得到解释,而不是等到收到投诉之后。
哪些事必须始终由人决定?
每一份候选名单和每一次拒绝。工具依据商定的标准总结每份简历,并展示其依据;招聘专员阅读总结,在需要时打开简历,然后做出决定。NIST AI 风险管理框架(2023 年 1 月) 把人工监督和问责视为 AI 风险管理的一部分,在招聘中,这意味着每个结果都有一位具名的决策人。
什么时候更简单的做法就够了?
如果每个季度只招几个人,就不必用自动化筛选。一份结构化评分表、两位阅读人和匿名简历,不需要任何模型,就能带来大部分公平性上的好处。在获准使用的聊天工具里总结简历没有问题,只要没人让它给人排序。
#Stennir 在其中扮演什么角色?
Stennir 的 AI 咨询 服务包含治理工作:评估会梳理 AI 在你们招聘中的触点、由谁决定、记录什么,以及上线前后要运行哪些测试。如果筛选辅助值得搭建,AI 落地实施 会在搭建时加入代理特征去除、为每份总结提供依据,并由招聘专员审批每一项决定。
AI 培训 则教会招聘专员了解筛选结果会在哪些地方出错,以及如何提出质疑。
We are
Stennir 设计并测试会展示依据的筛选辅助工具,每位候选人的结果都由人决定。
We aren't
Stennir 不是自动化招聘工具,不是任何特定法律下的偏见审计机构,也不是律师事务所。
人才招聘负责人接下来该做什么?
列出 AI 已经介入候选人决策的每一个环节,包括你们的招聘管理系统默认开启的功能。为每一处注明由谁决定,以及是否做过任何测试。阅读 面向运营团队的 AI、简历筛选实例 以及 推广之前董事会应该看到什么。然后 预约一次 30 分钟的通话。
常见问题
AI 筛选有可能比人更公平吗?
它可以更一致,因为它对每份简历都用同样的标准,而且从不疲倦。但一致不等于公平:一贯地使用一个有偏见的标准,结果仍然是有偏见的。收益来自商定的标准、去除代理特征、定期测试,以及由人决定每一个结果。
我们的招聘管理系统内置了 AI 排序,用起来安全吗?
问供应商排序的依据是什么、是否做过偏见测试,以及每个分数展示了哪些依据。然后用过往岗位自己做一次回放测试。如果供应商解释不了排序逻辑,就改用总结功能,把排序留给你们的招聘专员。
我们应该保留哪些记录?
每个岗位的标准、所用工具和提示的版本、每位候选人得到的总结、由谁决定,以及用其本人的话写下的理由。保留上线前以及每次变更后的测试结果。保存期限按你们的数据保护规则执行,并与法律顾问商定。
开始需要我们提供什么?
一位对结果负责的人才招聘负责人、你们招聘工具中所有 AI 功能的清单、几个已招满岗位的匿名简历和决定,以及你们的数据保护联系人。Stennir 会先用这些测试你们现有的工具,然后才会建议任何新东西。
