AI影像诊断出问题谁担责?国家立规矩:全链条严格追责
前些天,科技部网站挂出了由医学伦理分委员会起草的《人工智能医学影像研究伦理指引》(简称《指引》),涵盖了DR、CT、MRI、PET、SPECT、超声等影像的算法研发、技术应用及临床转化全过程。业内人士认为,该文件意味着我国AI影像伦理治理已从“原则倡导”跨越到“具体指导”的新阶段。
平衡技术创新与伦理安全是制定《指引》的核心理念。文件开头确立了AI影像研究的六大伦理准则:提升人类福祉、保障公平公正、尊重个体主体性、维护隐私与数据安全、确保可控可靠以及增强透明可信度。
六大准则定下基调:
患者利益置于首位
这六条并非空话,而是贯穿全文的价值准绳。委员会专家王国豫教授指出,“增进福祉”排第一,意味着AI影像研究必须把患者利益放在首位,谨慎评估技术对人体健康的潜在风险。同时,要防范算法歧视,关注儿童、老人及罕见病患者的特殊需求,以促进公平。
医学数据极为敏感,涉及个人隐私与公共利益。为保障数据安全,《指引》规定需建立数据授权及撤回机制,严防数据外泄或被滥用。
“将‘确保安全可控’与‘强化透明可信’列为原则,正是针对AI影像特性的全流程风险治理,形成事前预防、事中管控、事后处置的闭环,确保技术逻辑和判读决策经得起检验。”上海AI实验室科学家瞿晶晶表示。
鉴于AI影像技术复杂多变,《指引》分层级制定了通用要求、特殊要求及审查重点,提供了更具针对性的操作规范。
全流程责任链条:
各环节责任主体需清晰界定
在操作层面,《指引》提出了通用要求,包括合法合规、知情同意、责任机制及利益冲突处理。
文件明确了科研人员、医院、医生、企业及监管部门在全过程的责任,确保结果可追溯、可审计、可追责。这彻底改变了以往“厂商开发、医院买单、医生背锅”的模糊局面,确立了各环节的责任主体。
其中,合法合规是底线,知情同意是审查核心。
合成数据严禁“以假乱真”,
算法透明必须可验证
针对特殊要求,《指引》对数据、算法及伦理审查制定了具体细则。
数据是AI影像研究的基石,也是风险高发区。
《指引》对数据全生命周期提出四项严格要求:建立从实验到应用的数据安全管理体系,实现全程可追溯;严把质量关,选用