安省医疗AI工具被曝严重隐患：病历内容凭空捏造，准确率堪忧

本周二（5月12日），安省审计总长斯彭丝女士（Shelley Spence）在新发布的特别报告中发出警示，安省家庭医生普遍采用的人工智能（AI）病历记录工具"AI Scribe"存在信息失真和建议偏差等重大隐患，部分系统在官方评估中竟有高达45%的概率生成虚假治疗内容。

据本地英文媒体Global News报道："AI Scribe"是安省医疗体系近年来引入的一种人工智能病历记录系统，旨在协助家庭医生、护士和理疗师在诊疗过程中自动生成病历笔记。

在患者授权后，该系统能够实时监听医患之间的对话内容，并自动整理出主观描述、客观体征、诊断评估和治疗方案（即 SOAP 四项）。

从设计初衷来看，这一工具能够显著缩短医生手写病历的时间，使医护人员能够将更多注意力集中在患者护理工作上。

然而，安省审计长办公室最新发布的特别报告却揭示，该系统存在大量错误，其中许多问题相当严峻。

报告指出，部分AI系统会出现"幻觉化"（hallucinate）现象——即凭空编造从未实际发生的事情。

有的系统甚至会擅自添加医生从未提及的治疗建议，例如建议患者接受心理咨询、安排血液检测等项目。

更为引人关注的是，该系统还可能记录错误的药物相关信息。

审计结果进一步揭示了问题的严重程度：

审计长在报告中警告："AI生成的医疗记录若存在错误，可能导致不充分乃至有害的治疗方案，并可能对患者的健康状况产生负面影响。"

报告同时指出，政府在采购这些AI系统后，并无证据表明曾进行进一步全面测试以降低"幻觉"风险，而在20家获批供应商中，至少有5家公司甚至未提交完整的风险与隐私评估报告，却依然获得了审批通过。

面对各方质疑，安省公共与商业服务交付及采购厅长Stephen Crawford坚称，这些"捏造内容"的情况仅出现在测试阶段，并非医生实际使用过程中出现的问题。

他表示："这些问题发现于培训和测试模式中，此后系统已经进行了相应改进。"

不过，审计长斯彭丝女士显然并未完全释怀。

她透露，自己近期就诊时，主治医生同样在使用AI Scribe，而她特意提醒医生："请在问诊结束后认真核对一下记录内容。"

这一细节，也进一步反映出连监管部门自身对AI医疗记录的可靠性都存在担忧。

AI在医疗领域的争议

事实上，随着人工智能快速渗透医疗系统，加拿大医疗界始终存在争议。支持者认为，AI能够缓解医生长期超负荷工作的困境，提升效率并减轻行政负担。

反对者则担忧，一旦系统出现故障，后果可能直接波及患者诊断、用药乃至生命安全。

尤其在家庭医疗场景中，患者的心理状态、症状细节以及医生判断往往极其复杂，而AI系统目前显然还无法完全准确理解和处理这些内容。

尽管如此，安省政府并未叫停相关项目。

安省采购厅（Supply Ontario）表示，将采纳审计长的大部分建议，包括加强偏见测试、增加现场演示程序，并强化风险审核机制。