AI招聘的隐秘风险:40轮筛选后,人才结构将趋于雷同

发布时间：2026-08-06 07:13阅读：2

最致命的，是偏见在反复反馈中日渐膨胀。

谈到企业内部的AI应用场景，人力资源部门用AI筛选简历这件事，已经相当成熟了。过去，面对堆积如山的简历，HR只能一封封地拆开来看，常常遗漏许多出色的应聘者。

而如今交给AI处理，成百上千份简历，10分钟左右就能输出一份条理清晰的评估报告，告诉你接下来该把哪十位候选人列入下一轮。整套流程看起来既高效又客观。

然而，我最近读到一项心理学领域的实验，得到了一个违背直觉的结论，对上述场景很有借鉴价值：AI同样会滋生专属的偏见体系，而且问题往往比人更突出。

我觉得颇为耐人寻味，今天就此与你分享。

一场消除差异的招聘测试

试想存在一座虚构城市，受市长委托协助招贤纳士。城中有四个族裔群体，名字均为虚构：Tufa、Aimas、Reku、Weki。

你不必去记这四个群体各自代表什么。研究者特意编造这些陌生的称谓，正是为了规避AI训练语料中已经存在的偏见，避免对实验起点造成干扰。

否则，一开始就标注成「黑人、白人、亚裔」，或者「广东人、上海人、东北人、四川人」，是不是你脑中立刻浮现出刻板印象？

于是这套系统里，研究者直接随机编排了四个族裔群体。这座城市的医院缺医师，学校缺教职，银行缺经理，街道也需要保洁。一共20类岗位，连续开展40轮选拔。

每一轮公布一个空缺岗位，四个族裔各推举一名候选人，你必须从中挑出一人。选完后，系统立刻反馈：本次选拔成功，还是失败。

你的使命只有一个：尽可能多地把真正胜任工作的人招进来。

如果由你来判断，时间久了，你会不会开始觉得，某个族裔天然适合从医，另一个族裔更擅长保洁？

然而有件事你并不知晓：这四个族裔群体之间根本没有任何差异。任何族裔从事任何职业，成功概率毫无二致，都是90%。

让大模型连续40轮开展招聘

这是2026年7月，在AI学术顶会ICML上正式展示的一篇论文。来自普林斯顿大学和芝加哥大学的研究团队，把一项原本用于探索人类刻板印象的心理学实验，迁移到了大语言模型上。

GPT、Claude、Gemini、Qwen、DeepSeek等系列AI模型，不再充当研究者整理数据的助手，而是直接成为了被试对象。

每个模型连续进行40轮招聘，相同设定下重复30次实验。研究者如同观察人类受试者一般，观察AI选择谁、记住什么，以及如何诠释上一轮的成败。

偏见在反馈闭环中持续放大

结果有些出人意料：尽管四个族裔能力完全相同，模型却迅速将它们归入不同的职业槽位。

论文借助一幅示意图，揭示了这种偏见是如何逐步固化的。首轮，模型挑选了Aima候选人出任教师，结果以失败告终。

次轮，它便推测，Aima或许更契合垃圾清运这样的体力岗位。恰好这次成功了，于是模型立刻表态：如今我清楚Aima的专长了。

到了第三轮招聘医师时，它转而挑选了Reku，并大获成功，还归纳道：每个群体显然各有所长。

此后，只要这种安排带来成功，模型就愈发确信自己「发现了规律」。

▲论文中提供的示意图

一次偶然，演变为隐秘循环

问题在于，这套规律从一开始便纯属子虚乌有。所有群体胜任所有工作的概率毫无差别，模型不过是恰好先目睹了一次失败，又恰好见证了一次成功。

可它偏偏擅长从零星信息中归纳模式。

于是，一次偶然沉淀为印象，印象左右下一次选择，下一次选择又催生出更多佐证这一印象的数据。

这就构成了一个极度隐蔽的闭环：你认为某类人不合适，便不给他机会；因为缺乏机会，你就看不到他成功的数据；因为缺乏成功数据，你就更加确信他不合适。

这种情形在我们的实际工作中其实更为普遍。我们常常因为某个个体的表现，就给一座城市、一个省份的群体贴上特定标签。

回到这份报告也一样。模型看上去始终在「尊重」数据，可这些数据并非自然涌现，恰恰是它自己前序的选择一步步孕育出来的。

论文采用职业分层指数来量化这种现象。人类受试者的平均值是0.84，前沿大模型的平均值是1.39，相对于人类高出大约65%。

但需澄清的是，这并不能直接等同于「真实招聘场景中AI比人类多出65%的歧视」。你只需了解，在这个实验中，刻板印象对AI的侵蚀程度比对人类更甚。

模型越强，偏见或越显著

更违反直觉的是，在不少模型系列中，更新、更强大的版本，分层现象反而愈演愈烈。

这并非因为模型越聪明就越险恶。作者推测，这或许源于模型越发擅长总结经验，便越容易把最初几次偶然的结果，迅速凝固为一套稳固理论。

有时，模型能力更强，意味着它更懂得利用既有经验。但公平还需要另一种能力：主动质疑自身的第一印象，持续为那些尚无数据支撑的人保留机会。

研究者还观察到，每次实验中形成的偏见方向并不雷同。这一次实验可能是Tufa总被安排从医，下一次则可能换成Reku。

因此，模型并非从训练语料中背诵出一套固定的「Tufa应该从事什么」。

这套偏见是临时「领悟」出来的，最初几个成功或失败的案例，会深刻左右后续其他岗位的取舍。

真正值得关注的是长期机会分配

这项研究对现实招聘最重要的启示恰恰在此。

首先要说明的是，论文并未测试真实简历，也未证明某家招聘平台已经按照相同机制对求职者造成了伤害。

但现实中许多招聘AI系统，正在从一次性的简历打分工具，进化为有记忆的流程助手。

当它开始持续参与候选人搜索、初筛安排、面试调度、面试反馈汇总，再把过去的录用和绩效数据带入下一轮推荐时，这种反馈闭环就值得格外警惕。

一个模型在测试阶段或许很会说「我不会依据族裔做判断」，却在几十轮选择后，使机会越来越向特定群体倾斜。

真正需要核查的，不只是它某一次回复是否礼貌得体，而是从长期视角看，它将谁送入了面试，谁始终被排在后面；它从谁身上取得了反馈，又让谁永远没机会生成新的成功数据。

对企业招聘而言，举个极端的例子：很可能有一份简历，初筛阶段表现亮眼，直接晋级面试，可在面试中，所有面试官均给出了极低的评分。

对人类面试官而言，或许只会视为偶然个案。但对AI来说，它极有可能从这次结果中强行归纳出一套并不存在的规律。

继而，把这种偶然反馈迅速转化为系统权重的调整，让某个地区、某所学校、某个专业，乃至某种相似背景的候选人，越来越难以进入面试。

仅提示模型保持公平，远远不够

实验也尝试了若干纠偏手段。如果只对模型强调「请保持公正」，效果并不稳定；让它展示更多推理过程，也未能从根本上化解问题。

当然，哪怕存在一些技术手段，也不能生硬迁移到真实招聘中，因为真实候选人并非完全同质，招聘更不能用人的工作机会随意做随机实验。

因此，AI在招聘中最适宜扮演的角色，或许不是替人宣判「谁合格、谁落选」，而是协助拓宽搜索视野，整理与岗位相关的信息，提醒哪些群体长期处于视野之外。

至于岗位标准、人工复核与申诉机制，责任依然归属人与组织。

写在最后

说到这里，许多企业每半年或一年，都会开展一次人才盘点。如果企业真正将AI视作一名员工，也应定期对AI智能体开展类似的人才盘点。

比如，复盘招聘AI运行半年来的表现，评估其人才选择与实际业绩，观察是否存在长期偏向某类候选人，或是否已形成特定的偏见模式。

今后，再听说某家企业宣称「我们的招聘AI越用越懂我们需要什么样的人」，反而应保持警惕：AI是不是已经固化了内在偏见，让这家企业的人员构成愈发单一雷同。

🔗相关论文：https://arxiv.org/html/2511.06148v4

🎞️ 活动预告

8月8日起，我和罗老师将在美国硅谷展开为期10天的深度调研，重点聚焦AI在前沿领域的落地趋势。

若你对此次活动感兴趣，可在公众号后台回复「硅谷行」添加AI圈小助手，先领取《罗振宇×快刀青衣硅谷行程总览》，后续小助手还将助你锁定一系列干货的一对一专属分享。

8月15日下午4点，我们还将在硅谷圣何塞的蒙哥马利剧院（Montgomery Theater），举办一场《文明之旅》线下看片会。

若你同时是AI学习圈和《文明之旅》的用户，并且恰好身处硅谷，格外欢迎莅临现场，与我们线下面基。

感兴趣的朋友，可扫描下方海报二维码，了解活动详情并报名。