AI技术被滥用：医疗谣言制造机

原标题：科学与健康｜多方共治医疗领域AI造假

7月10日，北京协和医院官方声明指出，网络上流传的关于该院多名护士十年间为患者垫付医药费的不实信息，实际上是由AI生成的虚假内容。

这种情况并非孤例。近期，原本应服务于人民健康、推动医疗事业进步的AI技术，被某些人转化为批量制造谣言、吸引流量和谋取私利的工具，这不仅误导了公众认知，加剧了安全风险，还损害了行业信誉，破坏了医患关系。

分析这些乱象，可以看到医疗领域的AI造假层出不穷，形式多样，从换脸带货到批量造谣，无所不包。

——“移花接木”、伪造权威，AI换脸冒名专家带货牟利。不法分子利用人工智能技术，将公开视频中知名专家的形象和声音移植到新视频中，为商品做宣传，普通人很难辨别真伪。

据了解，北京协和医院临床营养科主任医师于康的形象曾被AI技术盗用，在多个减重科普视频中频繁出现，向公众推销产品。经本人核实，他从未参与录制此类视频，视频中的形象和声音均由AI伪造生成。

——“滥竽充数”、批量生产，利用AI生成虚假科普内容。部分账号借助AI工具批量制造医疗科普内容，看似专业实则漏洞百出，甚至相互矛盾。日前上海警方破获一起自媒体案件，无医学背景的运营者用AI批量生成虚假医疗科普文章，目的是吸引病人线下就医。

——“无中生有”、混淆视听，AI虚构情节炮制假新闻。此前，一则“全球首例AI医生独立完成罕见病手术”的新闻在网上传播，该报道开头便称“北京协和医院召开新闻发布会”，但北京协和医院表示，从未开展过这项手术，新闻报道不实。

“伪造权威专家形象与声音，散布未经临床验证的偏方或错误用药指导，患者信以为真后可能延误甚至加重病情，直接威胁生命安全。”在医药行业AI创新联盟秘书长张蕊看来，当真实科普与AI伪造内容混杂，信息模糊不清，公众很难甄别。

人工智能不是赚流量、博眼球的工具，医疗科普更不是流量生意。

当前，国家层面不断出台规定：借助人工智能技术生成合成医疗科普信息、分享传播真实健康经历的，需严格标注信息