文章ID：4167

超凡蜘蛛侠

AI招人，比人类更容易产生偏见_我的网站

林中小屋

一 | （来源：麻省理工科技评论）以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。

中国男篮18日以50分的优势在亚洲杯8强资格赛中击败印尼队，尽管最终取胜，但东道主印尼阵中的归化中锋博尔登还是给中国男篮制造了一些麻烦，这名曾短暂效力于美国NBA骑士队的球员拿下21分。问题是，它真的会公平吗？研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。中国男篮主帅杜锋赛后说：“（印尼队）还是很有活力的，包括22号归化球员，在防守和篮板、进攻端给他的球队带来很大帮助。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。而这些记忆，也可能成为模型滋生偏见的土壤。为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。”除了博尔登，韩国的罗健儿、巴林的齐斯姆同样表现不俗，“拥有归化球员”几乎成为亚洲篮球队的标配。实验改编自一项经典心理学研究。他们成为比赛的胜负手4场亚洲杯比赛中，博尔登场均拿下21.8分，投篮命中率为54.1%。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。

二 | 每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。

三 | 作为大个子球员，他的三分球命中率达43.8%。随后进入下一轮。国际篮联官网将他与韩国归化球员罗健儿评为“小组赛阶段表现最好的球员”。亚洲杯的个人数据榜单上，博尔登高居第3，排在他身后的巴林归化球员齐斯姆数据同样华丽，场均能拿下21.3分的他也给中国男篮制造不少麻烦，两支球队到最后一刻才分出胜负。而在本届亚洲杯之前，巴林男篮和中国男篮并不是一个档次的球队。

此外，中国男篮首场不敌韩国男篮的比赛中，罗健儿成为比赛胜负手，他用25分14篮板的两双表现控制内线。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。同样在对阵中国男篮时拿下两双的还有中国台北归化球员阿提诺，不过，中国台北男篮在8强资格赛中不敌约旦男篮，约旦阵中的归化球员塔克以场均19.8分排在亚洲杯个人数据榜第5。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。此外，即将与中国男篮交手的黎巴嫩男篮势头正盛，在国际篮联的“亚洲杯冠军投票”页面中，黎巴嫩以81%得票率高居榜首。

四 | 阵中除了被称作“亚洲德拉季奇”的阿拉基以外，归化球员乔纳森·阿利奇同样实力不俗。

五 | 按理说，模型不应该偏向任何一个群体。但结果恰恰相反。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。过往的3场小组赛上，阿利奇场均拿下17分7个篮板。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。换句话说，它开始把一次偶然的经历，当成了整个群体的特征。更令人意外的是，这种倾向甚至比真人严重。“雇佣军”也有反面教材根据国际篮联的规定，每个国家最多可以拥有1名年满16周岁后获得该国国籍的球员，且该球员从未代表原籍参加奥运会和世界杯等国际赛事。

六 | 国际篮联的归化政策是为了帮助“弱小球队”迅速获得即战力，包括菲律宾、巴林和印尼等队都是这一政策的受益者，亚洲杯的强弱格局不再明显，整体竞争力显著上升。不过，作为“雇佣军”的归化球员并不能解决所有问题。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。2019年篮球世界杯上，混血球员八村垒和归化球员法泽卡斯领衔的日本男篮5战皆负，球队孱弱的轮转阵容无法跟上高强度比赛节奏。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。与此同时，由于缺少国家荣誉感和民族认同感，一些归化球员也会在比赛中“出工不出力”，西班牙男篮的费尔南德斯表示：“我觉得（归化无血缘球员）不太对。论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。”“归化球员就像是买彩票一样”，《菲律宾星报》这样感慨。为了增加“中奖”的概率，日本篮球深度利用联赛平台。

七 | “大语言模型本来就特别擅长根据有限的信息快速总结规律。日本B联赛规定，每支球队可以在归化球员和亚洲外援中二选一。”他说，“这几乎就是它们被训练出来要做的事情。

八 | 因此，那些实力雄厚的俱乐部愿意引入归化球员，这些球员被视作“本土球员”，也成为日本国家队的人才库。” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。

九 | 对于大语言模型来说，这种取舍往往更加偏向后者。但菲律宾的PBA联赛仍将归化球员作为俱乐部外援，伴随着全球篮球格局的变化，PBA迟早会重新审视这一规则。“移动长城”面临挑战面对亚洲乃至世界篮坛的归化潮，加上奥运会选拔规则的变化，中国男篮是否会选择引入归化球员？国际篮联官网曾表示，中国男篮曾被称为“移动长城”，这是因为中国男篮的身高优势非常明显。这支曾拥有姚明和王治郅的球员不仅在亚洲独树一帜，在世界篮坛也极具竞争力。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。但随着澳大利亚和新西兰进入亚洲篮坛，中国男篮面对的竞争格局随之发生变化，老对手也在虎视眈眈。目前，中国男篮的人才还没有枯竭，周琦、王哲林、范子铭和胡金秋等一批大个子球员仍在成长。

十 | 也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。但从近几届世界大赛的表现来看，中国男篮的锋线难以与世界一流球队抗衡。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。

十一 | 如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。报道称，中国男篮有必要重新审视人才库，通过归化提升部分位置的实力。当然，短时间内看到中国男篮引入归化球员并不现实，中国篮协主席姚明曾表示：“归化球员和本土球员的区别就在于责任的承担这一点上。

十二 | 她说，“它可能会过度依赖自己过去遇到过的行为模式。” 当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。

十三 | 真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。研究人员还尝试了另一种办法，直接告诉模型：请公平一点。

十四 | 但并不奏效。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。

十五 | 但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。

十六 | 这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。

十七 | 如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。