医疗AI的真实风险：当算法“看见”不存在之物

发布时间：2026-04-09 23:19来源：微信阅读：6

近些年来，人工智能常被塑造为医疗领域的“下一场变革”：它能够解读X光片、分析CT影像、撰写病历、辅助诊疗，甚至被期待用以提升效率、缓解医师不足。然而，结合近期两个实例审视，我们不得不面对一个令人忧虑的现实：当前医疗AI最严峻的风险，并非单纯的“回答错误”，而在于其能以极具说服力的姿态，将谬误包装成专业的医学判断。

【案例一】一种较普通“幻觉”更为棘手的现象——“海市蜃楼式推理”。斯坦福大学的研究团队揭示，即便是当前最先进的多模态AI模型，在完全没有接触医学影像的情况下，也会如同亲眼所见一般，主动描绘图像细节、做出病灶诊断，甚至生成完整的临床推理链条。这表明模型未必真正“理解图像”，而可能是在依据问题表述、统计规律、疾病流行率以及训练记忆进行高概率推测。其最危险之处在于：模型并不知晓自身知识的局限，却表现得仿佛洞察一切。

【案例二】谷歌的医疗AI在分析脑部扫描时，竟描述了一个人体中根本不存在的结构——“basilar ganglia”。这并非简单的笔误那般无关紧要，因为在医疗场景中，术语的每一个字母都可能影响临床理解、后续决策乃至患者安全。更值得警觉的是，此类错误并未被即时发现，反而因其表述“过于逼真”，在公开资料中留存了相当长时间。这说明：AI的失误并非总是显而易见，很多时候，其危险性恰恰在于“酷似真话”。

将这两个案例结合来看，医疗AI至少暴露出五类核心隐患。

首要的是虚假感知风险。传统误差是“看错了”，而现今的问题可能是“根本没看，却声称自己看到了”。这意味着AI在多模态任务中的“感知能力”与“语言表达能力”严重脱节。模型能够以强大的语言能力掩饰视觉理解的不足，致使医生、患者乃至研究人员误以为它确实具备影像判读能力。

其次，是虚假自信风险。无论是凭空描述不存在的影像，还是虚构一个不存在的解剖结构，AI都极少主动承认“不确定”或“我不知道”。在医学这类高风险领域，真正可怕的并非系统偶尔出错，而是它在出错时依然语气笃定。对临床实践而言，一个“自信地犯错”的系统，往往比一个“谨慎但缓慢”的系统更具威胁。

第三，是评测失真风险。如果模型能够通过题目模式、数据污染、训练记忆，在缺乏图像的情况下仍获得高分，那么现有诸多医疗AI基准测试就可能高估了模型的真实能力。换言之，一些看似亮眼的成绩，未必代表模型真正懂得读图或诊断，而可能只是“擅长应试”。这会误导医院的采购决策、投资判断以及监管评估。

第四，是流程放大风险。许多人认为AI出错，只需由医生“最终把关”即可。但现实是，临床工作流程节奏快、信息量大，医师不可能逐字逐句审核每一次输出。AI一旦融入影像判读、病历转录、患者沟通、智能体协作等环节，微小错误可能沿流程层层传递，最终演变为误诊、漏诊、错误用药或不必要检查。所谓的“人类监督”并非零成本保险，反而可能带来新的效率负担与责任模糊。

第五，是过早部署风险。当前业界对医疗AI的推广速度明显快于其安全治理的进展。从AI影像辅助，到AI健康建议、AI病历整理、AI科研助手，产品已大规模进入真实世界。但从这两个案例来看，连最基础的事实准确性、输入校验、错误表达控制都尚未彻底解决。若在缺乏护栏、缺乏验证、缺乏责任边界的情况下仓促部署，AI可能非但未能“提升医疗”，反而将不确定性引入医疗核心环节。

这并不意味着AI在医疗领域毫无价值。问题的关键不在于“能否使用AI”，而在于——

不应将语言上的流畅，误解为医学上的可靠；

不应将演示中的惊艳，误解为临床中的安全；

不应将模型会回答问题，误解为模型真正懂得诊断。

这两个案例共同传递的核心警示是：医疗AI最值得警惕的，并非其偶尔犯错，而是其将错误包装成专业、自然、可信的医学判断。

在医疗这样一个容错率极低的领域，真正需要建立的并非更大胆的想象力，而是更严格的验证体系、更透明的不确定性表达，以及更审慎的落地节奏。

否则，AI越“聪明”，风险也可能越隐蔽。