人工智能招聘：比人类更易产生偏见
人工智能不仅能从训练中习得刻板印象，还能创造新的刻板印象。
下次找工作，人工智能可能会在任何人审阅你的简历之前先进行筛选。但我们有充分的理由质疑人工智能能否公正地评判你。研究人员已经发现，人工智能模型会从训练数据中吸收人类的偏见。新的研究表明，人工智能模型也会从经验中形成自身的偏见，并且比人类更容易对求职者进行刻板印象的判断。随着人工智能公司竞相构建能够记住用户最细微细节的智能模型，他们或许正在为这些模型形成偏见提供弹药。
普林斯顿大学和芝加哥大学的研究人员让包括ChatGPT、Claude和Gemini在内的多个人工智能模型参与了一项模拟招聘游戏。该游戏改编自一项心理学研究，旨在探索人类如何形成刻板印象。每个模型都被告知自己受聘于一个虚构城市的市长担任顾问，并被要求协助招聘20个职位，包括医生、律师、育儿助理和清洁工。候选人来自四个虚构的族群：图法人、艾玛人、雷库人和韦基人。
每一轮都会出现一个新的职位空缺，每个群体各有一名候选人，共四名。模型录用一名候选人后，会了解其是否胜任工作，然后进入下一轮。模型的任务是在40轮中尽可能多地成功招聘到合适的候选人。模型并不知道，所有候选人在每份工作中成功的概率都是相同的。
这些模型很快就根据早期对招聘结果的观察，将不同群体的候选人分配到不同的工作岗位。例如，当模型得知一位艾玛族人未能胜任医生一职（医生这一职业被认为需要高度的亲和力和能力）时，它便不再雇用所有艾玛族人担任医生。相反，它开始雇用艾玛族人担任清洁工，因为模型认为清洁工的工作不如医生亲和力和能力强。一些推理能力更强的新模型，例如OpenAI的o3和DeepSeek的R1，则表现出更明显的偏见。
与原始研究中的人类参与者相比，这些模型更容易根据人口统计群体对人们进行刻板印象的划分。在研究的隔离程度量表上（2 表示每个群体都被完全限制在其自身的职业领域内），人类参与者的得分为 0.84。模型的得分则高出约 65%，其中 OpenAI 的推理模型 o3 的得分高达 1.83，接近最高分。
普林斯顿大学博士生、该研究的合著者瑞安·刘表示，这是因为LLM“非常热衷于从有限的数据中得出概括性的结论”。该研究成果于7月在首尔举行的ICML会议上发表。“这正是它们优化的目标之一。”
无论是人还是机器，每个决策者都面临着在坚持以往行之有效的方法和尝试可能更有效的新方法之间做出权衡——心理学家将这种现象称为“探索-利用困境”。这就像在一家新餐厅和自己一直钟爱的餐厅之间做出选择一样。
由于逻辑推理模型（LLM）接受的是数学、编程和科学问题的训练——这些任务奖励从少量例子中进行概括——它们可能会过早地形成自己的直觉。而帮助逻辑推理模型破解逻辑谜题的这种本能，也使它们容易陷入刻板印象。刘表示，当逻辑推理模型在社交场合急于概括时，“往往就会出问题”。OpenAI 和 Anthropic 公司未对此置评。
康奈尔大学计算机科学家安吉丽娜·王表示，这项发现尤其具有现实意义，因为聊天机器人如今的记忆力和个性化功能都在不断增强。王并未参与这项研究。她指出，当聊天机器人利用其过往的对话记录时，它可能会“过度依赖之前经历过的同类行为”，从而形成偏见。
然而，仅仅减少聊天机器人的记忆量并不能解决问题，因为用户希望聊天机器人记住他们说过的话。“我们仍在努力寻找一个合适的记忆量，既不能太多也不能太少，”王说道。
告诉模型要公平对待员工并没有显著改变它的行为。“要么是它无法将这些价值观付诸实践，要么是这个过程被追求最精准招聘目标的倾向所掩盖，”刘说。但承诺对多元化招聘给予额外奖励，则大大降低了模型的偏见。因此，关键在于设计能够“融入理想社会价值观的目标，从而使大型语言模型以符合社会期望的方式行事，”刘说。
当模型被告知更多关于个人的信息时，其偏见程度也会降低。在同一研究的另一项实验中，研究人员要求模型将不同族裔群体的成员重新安置到加拿大各地的城市。当模型被告知与适应新城市能力相关的个人信息（例如年龄和教育程度）时，它们按族裔划分人群的可能性会降低。但当模型被告知无关信息（例如头发颜色和纹身形状）时，它们大多又会恢复按族裔对人群进行分类。
人工智能系统在现实世界中会在多大程度上对求职者进行刻板印象的判断，目前仍是一个悬而未决的问题。虽然实验中的模型能够立即得知它们是否成功招聘到合适的人才，但在现实世界中，筛选简历的模型却无法立即获得评估结果。公司可能需要很长时间才能确定新员工是否胜任，甚至可能最终无法确定。
但即便反馈零星出现，模型在未来的招聘决策中仍可能过度解读这些结果。王表示，随着企业越来越多地使用招聘模型来筛选简历甚至进行面试，模型会从招聘经验中形成偏见这一发现“是一个非常严重的后果，企业应该认真对待”。
法学硕士们通过经验来决定谁能被录用、谁能获得贷款或谁能获得假释，因此我们应该担心的偏见可能包括一些从未有人教给他们的偏见。“这些新出现的偏见——它们几乎无处不在，”刘说。