金融监管总局发布银保业AI安全应用指南：金融机构合规要点全解析
6月18日，国家金融监管总局正式发布了《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称“《指导意见》”）。该指导意见适用于国家金融监管总局及其各级派出机构监管范围内的金融机构，旨在推动银行业保险业稳健开展人工智能技术应用与风险防控工作。指导意见共提出32条具体要求，涵盖人工智能治理架构完善、高水平人工智能开发应用推进、数据治理能力提升、智能算力建设强化、风险治理框架健全、安全开发应用能力增强以及保障监督体系建立七大领域。
对金融机构而言，《指导意见》既有鼓励支持性条款，也有明确细致的强制性规定，全面规范了人工智能浪潮下金融机构开发与应用人工智能技术的相关要求。
金融机构需从组织治理、数据治理、技术开发应用、监管报告等各环节全面落实合规要求，将人工智能风险管理纳入全面风险管理体系进行统筹管理。高风险应用（包括涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等领域，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用）必须经本机构风险管理委员会审批后方可实施，且明确禁止使用姓名、身份证号、手机号、银行卡号等个人信息和隐私数据进行模型优化与数据训练。
以下表格系统梳理了《指导意见》明确的金融机构人工智能开发应用所需履行的各项义务。可以预见，金融机构需按照指引要求进一步加强对人工智能应用的规范管理，在推动发展的同时确保安全可控：
一、治理架构
序号
义务内容
原文表述
条款
1
董事会指定专门委员会统筹AI管理
董（理）事会应指定专门委员会对人工智能开发应用管理负责，统筹制定发展规划，推进能力体系建设，制定制度规范，明确牵头部门和跨业务、科技、数据职能部门的协同机制，加强人才队伍建设
第二条（一）
2
建立全生命周期管理体系
应建立健全人工智能应用需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系，规范模型研发、应用及资产管理，加强数据安全评估、算法风险筛查、伦理审查评估、责任追溯机制建设，实施人工智能应用风险分类分级管理
第二条（二）
3
加强应用场景和业务流程管理
应按照应用场景与技术适配原则，加强人工智能算法评估，将合适的人工智能技术应用于适当的业务场景；完善人机协同的业务管理流程，科学设定人工智能的功能边界、系统和数据权限，明确人员岗位责任，确保业务全流程管理责任清晰、可落实、可追溯
第二条（三）
二、开发应用
序号
义务内容
原文表述
条款
4
对生成式AI模型实施准入管理，外部模型须经网信部门备案
金融机构对生成式人工智能模型要实施准入管理，评估模型效能及安全合规性。外部引入的生成式人工智能模型需经过网信部门备案
第三条（五）
三、数据治理
序号
义务内容
原文表述
条款
5
完善数据管理运营体系
要推动数据运营机制建设，建立覆盖数据全生命周期的管理流程，提升数据服务能力。构建企业级数据模型和数据资产地图，强化元数据管理，确保数据可寻可用，不同类型的数据可兼容，数据源头可追溯。加强对非结构化数据的管理，制定数据采集、清洗、标注、应用、退出管理规范
第四条（八）
6
建设高质量数据集
应针对人工智能业务场景持续推进高质量数据集建设，确立数据质量标准，建立高效的质量检控机制，确保数据准确性、相关性、一致性、完整性和无偏见。持续监测数据分布漂移，确保数据集及时更新
第四条（九）
四、算力建设
序号
义务内容
原文表述
条款
7
加强智能算力资源运行监测
要加强智能算力资源的云化管理，加强对人工智能应用的运行监测，实现对应用、模型、算力、网络的一体化管理，保障人工智能应用安全可靠运行
第五条（十三）
五、风险管理
序号
义务内容
原文表述
条款
8
将AI风险纳入全面风险管理体系
应将人工智能风险纳入全面风险管理体系，定期开展对人工智能应用风险及管理措施的评估审查。推动模型算法、数据资源、基础设施、应用系统等安全能力建设，完善业务及风险管理流程，防范模型生成结果不可靠风险，防止模型黑箱导致关键业务流程难落责问题
第六条（十四）
9
实施风险分类分级管理
应根据业务场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度等因素，对人工智能应用进行风险识别和分类分级管理。建立管理制度，制定应用清单，实施分级管控措施，落实管理责任
第六条（十五）
10
高风险应用须经风险管理委员会批准
涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用应被视为高风险应用。人工智能高风险应用须经本机构风险管理委员会批准后方可实施
第六条（十六）
11
高风险应用须建立人工监督和干预机制
要加强对人工智能在业务场景中的运行监测，及时发现和管控模型风险。在高风险应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程
第六条（十七）
12
加强外包风险管理
使用外部人工智能技术时，应在外包策略、数据安全、集中度管理等方面建立管理机制，通过合同协议明确安全管理方面的权责义务，确保金融机构能够有效管控相关风险。与外部企业开展合作时，应建立有效的风险隔离”防火墙”，防范风险跨业传递。对外包合作机构实行名单制管理，对引入的外部模型建立严格的内部评估框架，有效评价模型的优缺点和适配性
第六条（十八）
13
加强供应链与开源技术管理
要建立对人工智能算力、模型、数据、技术工具等的供应链安全合规管理机制，确保应用自主可控，防范对个别技术服务过度依赖引发的集中度风险。完善开源技术使用规范，建立开源软件管理台账，对外部引入的开源组件应进行审查评估，加强代码审计、漏洞扫描及安全测试，定期排查开源组件风险隐患，防范供应链投毒
第六条（十九）
14
严禁滥用AI操纵市场
有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险，严禁滥用人工智能技术生成虚假信息、操纵市场价格
第六条（十四）
六、安全开发能力
序号
义务内容
原文表述
条款
15
增强模型稳健性
应确保训练数据集质量、数量和分布符合建模要求，采取合适的模型架构与训练策略，加强对抗样本检测及压力测试，严格评估模型的敏感性、稳定性、抗噪能力和容错能力。模型部署后，持续监测其性能表现，建立训练反馈更新机制，实现模型持续迭代优化
第七条（二十）
16
提高透明度
应加强人工智能应用透明度管理，为高风险场景应用制定透明度和可解释性标准，明确模型设计、数据使用、特征选择及输出结果的逻辑。对人工智能生成内容应进行显著标识，并向金融消费者主动说明。加强模型开发、变更管理和训练过程记录，日志保存期限应不低于业务存续期
第七条（二十一）
17
促进可解释性
应制定人工智能模型的可解释性方法，加强推理解释和决策分析。可解释性不足的人工智能技术在高风险场景应用时，仅能作为辅助工具，应由人工进行最终决策。人工智能模型应用于涉及客户权益或有实质性财务影响的关键决策时，须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录，确保责任可追溯。定期对人工智能模型算法开展审计
第七条（二十二）
18
保障伦理道德与公平性
开发应用人工智能应符合法律法规及社会价值观要求。建立人工智能开发应用伦理审查监测制度，制定符合伦理道德的行为准则，加强数据集审查和对特定群体的影响评估，避免算法歧视等不公平性问题。使用受保护特征或属性时应进行正当性说明，删除偏见样本。涉及公共服务、关键信息基础设施及影响公共安全的人工智能应用，应开展伦理风险监测评估，及时对模型运行异常情况进行处置
第七条（二十三）
19
加强数据安全与个人信息保护
应将人工智能数据安全纳入企业数据安全管理体系，严格落实数据分类分级保护要求。规范开发过程和数据访问权限，防范数据投毒，完善数据脱敏规范，避免使用可直接识别出个体的数据。姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化，有效防止客户隐私泄露。加强模型安全护栏建设，加强内容过滤及脱敏管理。严格管理外包过程中的数据安全
第七条（二十四）
20
提升网络安全防御能力
要加强人工智能开发应用中的网络安全管理，加强对抗攻击测试和输出验证，通过数据隔离、访问控制等措施提升模型部署安全，持续监控模型行为，定期扫描、修补人工智能模型及相关系统组件漏洞，有效防范提示词注入、思维链注入、多模态攻击、上下文污染等威胁。提升智能体系统安全保障能力，防范数据泄露、记忆污染、身份越权、工具滥用、运行失控等安全风险
第七条（二十五）
21
加强运营韧性及业务连续性管理
要将人工智能应用纳入业务连续性管理体系，开展业务影响分析，制定应急预案，加强安全运行管理、事件处置和容灾能力建设。发生故障时，人工流程要及时介入或启用备份系统，保障人工智能应用稳定性、可靠性
第七条（二十六）
七、报告与监管配合
序号
义务内容
原文表述
条款
22
高风险场景使用生成式AI须向监管报告
金融机构面向公众服务或高风险场景应用使用生成式人工智能技术的，应向金融监管总局或其派出机构报告
第八条（二十九）