研究揭示:AI协作效能的关键不在工具,而在使用者的实力
最近我的各种AI群聊又沸腾了。起因是一家大公司推出了新一代模型,基准测试成绩霸榜,许多人连夜掏钱订阅。也有朋友截图来问:这个新模型问世,我是不是该把现在的助手换掉?
说实话,看着满屏“选哪个AI最好”的争论,我脑海中全是今年七月刚发表的一篇论文。读完它,你会觉得我们很多人可能都白费力气了。
论文标题很直白,叫《决定人机协作效果的,不是AI有多强,而是人有多强》(Human Capability, Not AI Benchmark Scores, Predicts Human-AI Collaboration Outcomes),作者是 Vivienne Ming,7月3号上传到 arXiv。Ming 在认知科学和 AI 领域是个引人注目的人物,研究过理论神经科学,后来创业,专门探索人与智能系统的互动。她这次抛出的结论,像一盆冷水,但浇得特别清醒。
别急着问“那我该用哪个模型”,先看看她到底做了什么。
Ming 和团队没有去测那种“让 AI 写首诗”的开放性任务,而是选了一个更贴近我们日常决策的模式:预测判断任务。参与者需要在信息不全的情况下,对一组案例的未来结果或趋势做出推断——就像医生看片子、分析师读财报,得在不确定中拿主意。
他们找来了两类人:在这个领域经验丰富的老手,和刚入门的新手。这样就在“人的能力”这个维度上,自然拉开了梯度。
然后给这些人配 AI 助手。有意思的是,配的 AI 不是随便一个水平,而是刻意拉开了性能差距——从基准测试分数平平的“勉强能用”级,到各种榜单霸榜的“最强模型”,都安排上了。每一个 AI 都能实时给出预测建议,并附上置信度,就像一个真的坐在你边上的参谋。
这个设计很妙。它直接还原了我们每天都在纠结的那个问题:我是不是该多花点钱、切换到那个跑分最高的模型?
结果跑出来之后,Ming 团队做了一个很朴素的分析:看看人机协作的最终表现,到底和 AI 的基准测试分数有多大关系?
答案是:几乎没有关系。相关系数低到可以忽略不计。
真正死死咬住协作效果的,只有一个变量——人本身的能力水平。参与者在没有任何 AI 辅助时的独立表现(也就是他们真实的领域能力),与人机协作后的最终效果,呈现出强且显著的正相关。人越强,配合 AI 出来的结果就越出色。
更值得细品的是细节。低能力组的参与者,在换上那个分数最高的“最强 AI”之后,表现几乎没有提升,甚至有一部分出现了负提升——被 AI 自信满满的错误答案直接带进了沟里。而高能力组呢,哪怕只给配一个中游水平的模型,他们也能靠自己的判断力把协作表现拉到接近甚至超越“最强模型单打独斗”的水平。
这就好比F1赛车。所有人都在盯着引擎多少马力、空气动力学套件多先进,可坐进驾驶舱的车手要是水平不行,给一台火星车也开不出圈速。相反,顶尖车手哪怕开一台中游赛车,靠走线、刹车点和对赛道的理解,照样能冲进积分区。
论文没只扔一个结论就走,他们还记录了参与者和 AI 交互的完整日志,从中挖出了那些“高能力者”的真正肌肉动作。
能力强的人跟 AI 配合,有三个典型习惯:
精准拆解,而不是甩手掌柜:他们不会把整个任务一股脑丢给 AI,而是先把问题拆成 AI 能处理的小块,自己始终攥着判断的框架和逻辑。AI 是跑腿的,方向盘在自己手里。
校准式质疑,而不是照单全收:AI 给出建议后,他们很少问“你确定吗”这种废话,而是直接去翻 AI 判断的脆弱点。比如,“你这个结论依赖的假设数据,