英国药监局发布AI生成整改报告违规案例警示

MHRA在近期博文里列举了由人工智能生成的检查报告整改回复案例。

英国药品和医疗产品监管局（MHRA）近期博文披露了AI生成的整改回复样本。

尽管AI具备诸多长处，比如能清晰解释复杂技术问题、确保回复规范统一、加速初稿起草，但监管机构也收到了大量不合格且错误频发的整改回复，文中列举了典型问题：

虽然利用AI能提升效率，如阐明复杂技术、统一回复口径及加快起草，但MHRA也收到了大量不合格甚至严重错误的整改回复，具体案例包括：

引用了并不存在的MHRA指导原则

引用了不存在的英国药品和医疗产品监管局（MHRA）指导原则

引用了不适用的监管法规框架

引用了不适用的法规框架文件

针对严重缺陷给出误导性回答，未触及根本问题

针对严重缺陷给出误导性答复，未能解决实质性问题

例如MHRA收到一份长达90页的回复，未回应发现的缺陷，导致审核答复工时巨大。

比如，MHRA曾收到一份90多页的整改回复，完全未针对检查缺陷作答，极大增加了审核成本。

至少有一例AI生成的严重缺陷回复存在关键错误，需多专业团队复核，审核时间从约4小时增至20小时以上。

至少有一例AI生成的严重缺陷回复存在信息失真，需多专业团队复核，审核耗时从4小时飙升至20小时以上。

MHRA表示，不当使用AI已构成实实在在的合规风险。

MHRA指出，AI使用不当已演变为真实存在的合规风险。

企业仍需对回复准确性负责。向监管机构提供虚假信息属违规，即便工具变更，责任依旧。

企业必须对回复真实性负责，提供虚假信息属违规，工具更迭不能免责。

MHRA不禁止AI，但要求回复准确、可追溯、受控。要求：内容客观、专家审核、负责人签署、有证据、适配语境。

MHRA不禁止AI使用，但要求内容准确、可追溯、受控。所有提交材料需满足：内容客观、专家审核、负责人签署、有证据、适配语境。

MHRA建议企业向合规团队披露AI使用情况，非强制但提升透明度。

MHRA建议企业向合规团队披露AI使用，非强制但提升透明度。

AI辅助制定CAPA。AI可辅助流程，但无法替代专业技术认知和管理经验。

整改回复需制定有效CAPA，基于根本原因调查、影响评估、执行和验证。AI仅能辅助流程，无法替代专业技术认知和管理经验。

若AI撰写，企业无人学习经验。若监管用AI，将出现AI报告对AI回复的循环。

若AI撰写，企业无法学习经验。若监管用AI，将形成“AI报告对AI回复”的闭环。