人工智能诊断可靠吗？北大揭开AI医疗“黑箱”，看完你还敢信吗

假设你的体检单上出现了一行字"AI辅助判断：疑似初期肺结节"，你会如何应对？

多数人会带着报告去找医师。但假如医师说"我看了影像，也认可AI的看法，但我无法说明AI为何这样判断"——你相信还是不信？

这正是AI医疗面临的最大信赖难题：深度学习系统像个"暗箱"——你放入一张CT图像，它给出"恶性几率87%"。至于它依据图像上哪处阴影、哪种纹理特征得出的结论——无人知晓。连AI的创造者也不清楚。

先看几组实际统计——

资料显示AI在特定图像辨识任务上确实超越了人类医师。但真正的瓶颈并非精确度——而是"缘由"的疑问。

想象一个情境：AI判定你的CT肺结节恶性几率87%。医师拿着影像，指向一个3毫米的微小隆起，说"你看此处，毛刺状边缘、分叶形态，典型的初期肺癌征兆"——你信服。但AI只说"几率87%"、没有说明——你敢信赖吗？

医疗不同于短视频推送——推送错了最多略过，诊断错了会危及生命。在医学领域，可解释性不是附加优势，而是基本门槛。

北京大学团队的研究方向称作"可解释人工智能"（Explainable AI, XAI）。核心宗旨只有一个——让AI在给出诊断的同时，告知医师它观察到了什么、为何如此判断。

他们采用了三种技术路线：

① 热图可视化——AI诊断肺结节后，在CT图像上自动生成一层彩色热度覆盖图。红色区域是AI做判断时最重视的像素点。医师一看便知：原来AI聚焦的是这片毛刺状边缘，而非结节整体尺寸。这项技术让AI的"关注点"变得清晰可见。

② 概念归因——不仅告知你AI关注哪个部位，还告知你AI是基于哪些"医学概念"做出的判断。例如"毛刺征（+）""分叶征（+）""胸膜凹陷（+）"——AI输出的不仅是几率，还有结构化诊断说明。这项技术的核心意义在于：医师的诊断逻辑和AI的判定依据能在同一标准下沟通。

③ 反事实推理——假设AI判定这个结节是恶性的。反事实推理会询问：假如把结节边缘的毛刺特征消除，AI还会判定它是恶性吗？如果答案从"是"转为"否"，那就证实了毛刺特征确实是AI做判定的关键依据。这个方法模仿了医师鉴别诊断时的思考过程——"如果不是这个特征，我会不会更改诊断？"

三条路径概括为一个词：透明化。不是取代医师，是让AI变成医生的"第二双眼睛"——一双能解释自己看到了什么的眼睛。

三个最现实的改变——

① 基层医院获益最大。县医院影像科可能仅有一名医生，每天需审阅上百张片子。AI热图能帮助医生快速锁定可疑区域——不是说AI替医生做决定，而是让医生的注意力集中在最需关注的地方，减少漏诊率。

② 医患交流有了"转换器"。医生向患者解释"为何你这个结节可能是恶性的"时，可以调出AI的热图和概念归因，"你看这片红色区域，说明AI和你医生一样，都认为这里的毛刺样变化最可疑"。患者看到的不再是冰冷的数字，而是直观的证据。

③ 推动AI模型提升。当一个模型被发现"做判定的依据是图像上无关的伪影而非真正的病变特征"时——这在传统暗箱模型中无法察觉——可解释AI能直接揭露这个问题。等于给AI模型增添了一层品质检查。

但可解释AI也有局限——它解释的是"模型看到了哪些特征"，不是"这些特征为何会导致癌症"。后者是医学研究要解答的问题，AI无法协助。

声明：本文仅为科技信息分享，不构成诊疗建议。

参考