人工智能科技伦理审查与服务办法解读

来源公众号“刘鑫学长”整理

01 开篇导语

02 核心要点

03 政策笔记

04 延伸阅读

05 政治素养

时间：4月8日

文件：《人工智能科技伦理审查与服务办法（试行）》

【思维导图】

【延伸阅读】

创新实践促发展丨第一节·迈向更加美好的“数字未来”——如何理解人工智能对经济社会发展带来的影响？

新规速递丨《人工智能拟人化互动服务管理暂行办法》

新规速递丨《“人工智能+教育”行动计划》

新规速递丨人工智能科技伦理审查与服务办法

新规速递丨福建省推动人工智能产业发展和赋能应用若干措施

》》》找到我们《《《

【核心要点】

一、制定背景与核心定位

1.需求牵引

2.核心特性

二、制定思路与基本原则

1.核心制定思路

2.七条基本原则

三、主要内容框架

1.适用范围与根本遵循

2.服务与促进

3.实施主体

4.工作程序

5.监督管理

科技伦理治理的落地需求

2022年3月，印发《关于加强科技伦理治理的意见》，对科技伦理治理作出系统性部署；

2023年9月，印发《科技伦理审查办法（试行）》，对科技伦理审查主体、审查程序作出具体规定；

2024年7月，党的二十届三中全会再次强调“加强科技伦理治理”。

产业健康发展的内在要求

人工智能深度赋能千行百业，其引发的算法歧视、隐私侵犯、深度伪造等伦理风险也愈加凸显。出台《办法》是坚守科技向善、筑牢科技安全底线、促进公平、公正、和谐、安全和负责任创新的必然要求。

细化完善：在遵循通用规定的前提下，在适用范围、申请材料、审查重点、简易程序适用等方面作了完善细化，更贴合人工智能科技伦理审查实际需要。它具有以下鲜明特性：

专项性：相较于《科技伦理审查办法（试行）》的通用性，《办法》是专门针对人工智能技术“量身定制”的审查与服务规范，在适用范围、审查重点、程序设置等方面进行了细化完善。

系统性：《办法》不仅规定了审查的程序与要求，还单设“服务与促进”章节，审查与服务并重，明确不再开展专家复核的条件内容，有效减轻企业合规负担。

衔接性：明确违反本办法规定的，将依照《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律法规和相关规定进行调查处理并给予相应处罚。

促进创新与防范风险相统一：遵循人工智能创新规律，借鉴国际经验，平衡技术创新与风险防控。既要通过明确规则、稳定预期来释放创新活力，又要通过识别、评估、管控伦理风险来守住安全底线，推动负责任创新与产业高质量发展。

符合人工智能技术特点：充分考虑人工智能伦理风险贯穿于技术研发、部署、应用全生命周期的特性。在人工智能科技伦理审查与服务的适用范围、审查重点内容等方面突出人工智能特色。

强化制度协同与衔接：注重与现有法律法规体系和管理框架的对接。一方面，与《科技伦理审查办法（试行）》等通用伦理审查规定保持协调，细化和补充人工智能领域的特殊要求；另一方面，与大模型、算法等领域的登记、备案、审批等监管措施中涉及的科技伦理内容做好衔接。

人工智能科技伦理原则：

增进人类福祉

尊重生命权利

坚持公平公正

合理控制风险

保持公开透明

保护隐私安全

确保可控可信

立法依据：为规范治理、促进负责任创新、推动产业健康发展，依据《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》等制定。

适用范围：适用于在中华人民共和国境内开展的，可能在人的尊严、公共秩序、生命健康、生态环境、可持续发展等方面带来伦理风险的人工智能科学研究、技术开发等活动，以及其他依法需进行伦理审查的活动。

标准体系建设：鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等参与人工智能科技伦理标准制定，凝聚行业共识，完善标准体系。

服务体系构建：推进人工智能科技伦理服务体系建设，强化风险监测预警、检测评估、认证、咨询等服务供给，加大对中小微企业人工智能科技伦理审查的支持和服务力度，降低企业合规成本。

鼓励技术创新：支持人工智能科技伦理审查技术创新，鼓励企业运用技术手段防范伦理风险。

宣传教育普及：加强人工智能科技伦理宣传教育，提升公众伦理意识和素养。

人才培养储备：推动职业体系和课程体系建设，采取多种方式培养人工智能科技伦理人才。

责任主体：从事人工智能科技活动的单位是本单位伦理审查管理的责任主体，应按规定设立“人工智能科技伦理委员会”。

委员会组成：委员会组成应包括人工智能技术、应用、伦理、法律等相应专业背景的专家。

服务中心：地方或相关主管部门可依托相关单位建立“人工智能科技伦理审查与服务中心”，接受委托提供审查、复核、培训、咨询等第三方服务，但不得对同一活动同时提供审查和复核服务。

申请与受理：活动负责人向本单位委员会或委托的服务中心提交申请，材料需包括活动方案、伦理风险评估与预案、遵守科技伦理的承诺书。受理方需判断并告知适用的审查程序。

一般程序：标准审查流程。由委员会主任或副主任主持，到会委员不少于5人且涵盖多专业背景。审查会议可邀请无利益关联的顾问专家提供咨询。审查期限一般为受理后30日内。

简易程序：适用于低风险情形。由委员会主任指定至少两名委员审查。

适用情况：（1）风险不高于日常生活常规风险；（2）对已批准方案作不增大风险的小修改；（3）前期无重大调整的跟踪审查。若审查中出现否定意见、疑义或争议，则转为一般程序。

应急程序：适用于突发公共事件等紧急状态。要求快速响应，一般在72小时内完成审查；对于需专家复核的活动，复核前的初步审查在36小时内完成。

专家复核程序：针对高风险活动

适用范围：对纳入国家动态管理的“复核清单”的活动，必须进行专家复核。

具体包括：

（1）对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；

（2）具有舆论社会动员或意识引导能力的算法、程序及系统研发；

（3）面向高风险场景的高度自主自动化决策系统研发。

流程：

先通过本单位委员会或服务中心的初步审查 → 由单位申请专家复核 → 地方或主管部门组织成立复核专家组进行复核→ 委员会或服务中心依据复核意见作出最终审查决定。

简化衔接：对于已在深度合成、算法推荐等领域监管中完成伦理审查（作为审批条件）的活动，可不再重复开展专家复核。

决定申诉：审查结果包括批准、修改后再审、不予批准。申请人对决定有异议可提出申诉。

跟踪审查：要求对已批准活动进行持续监督，一般活动跟踪间隔不超过12个月，纳入复核清单的活动不超过6个月。

人类福祉：是否具有科学价值、社会价值；研究目标对增进人类福祉、实现社会可持续发展等是否具有积极作用；人工智能科技活动的风险是否受益合理。

公平公正：训练数据的选择标准，算法、模型、系统设计是否合理；是否采取措施防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性。

可控可信：是否能够保障模型、系统的鲁棒性；是否能够保障使用者控制、指导和干预模型、系统的基本操作；是否制定持续监测方案、突发状况处理预案。

透明可解释：是否合理披露算法、模型、系统的用途、运行逻辑、交互方式说明、潜在风险等信息；是否采用有效技术手段提升算法、模型和系统的可解释性。

责任可追溯：是否具有日志管理等措施清楚记录数据、算法、模型、系统各个环节的充分信息，保障全链路可追踪和管理；科技人员资质是否符合相关要求。

隐私保护：数据的收集、存储、加工、使用等处理活动以及研究开发数据新技术等，是否采取充分措施确保隐私数据得到有效保护。

职责分工：科技部负责统筹指导，工业和信息化部会同有关部门负责人工智能领域治理，各部门、各地方按职责负责本行业、本地区的监督管理。

登记备案：要求委员会、服务中心、纳入“复核清单”的活动需在国家科技伦理管理信息登记平台进行登记并提交报告，实现信息同步共享。

投诉举报与处罚：畅通违规行为反馈渠道，对违反规定的行为，将依据《网络安全法》《数据安全法》等相关法律法规进行调查处理。

【核心要点】

《人工智能科技伦理审查与服务办法（试行）》

第一章总则

第一条为规范人工智能科技活动伦理治理，促进公平、公正、和谐、安全和负责任创新，推动人工智能产业健康发展，依据《中华人民共和国科学技术进步法》《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》（以下简称《伦理办法》）等法律法规和相关规定，制定本办法。

第二条本办法所适用的人工智能科技活动是在中华人民共和国境内开展的，可能在人的尊严、公共秩序、生命健康、生态环境、可持续发展等方面带来科技伦理风险挑战的人工智能科学研究、技术开发等活动，以及依据法律、行政法规和国家有关规定需进行人工智能科技伦理审查的其他科技活动。

第三条开展人工智能科技活动应将科技伦理要求贯穿全过程，遵循增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信的人工智能科技伦理原则，遵守我国宪法、法律法规和有关规定。

第二章服务与促进

第四条建立和完善人工智能科技伦理标准体系，推动制定相关国际标准、国家标准、行业标准、团体标准，支持搭建国际标准化交流合作平台。

鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等参与人工智能科技伦理标准的制定、验证与推广。

第五条推进人工智能科技伦理服务体系建设，强化人工智能科技伦理风险监测预警、检测评估、认证、咨询等服务供给，提升企业技术研发和人工智能科技伦理风险防范能力，加大对中小微企业人工智能科技伦理审查的支持和服务力度，推进人工智能科技伦理国际交流合作。

第六条鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等开展人工智能科技伦理审查研究，支持人工智能科技伦理审查技术创新，强化以技术手段防范人工智能科技伦理风险；促进人工智能科技伦理审查高质量数据集有序开源开放，加强通用性风险管理、评估审计工具研发，探索基于应用场景的科技伦理风险评估评测；推广符合科技伦理的人工智能产品和服务，保护科技伦理审查技术知识产权。

第七条开展人工智能科技伦理宣传教育，发挥科技类社会团体在人工智能科技伦理宣传教育方面的作用，鼓励公众参与，促进实践示范，提升公众伦理意识和素养。引导大众传播媒介有针对性地进行人工智能科技伦理宣传教育。

第八条支持高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等开展人工智能科技伦理相关教育与培训，推动职业体系和课程体系建设，采取多种方式培养人工智能科技伦理人才，促进人才交流。

第三章实施主体

第九条从事人工智能科技活动的高等学校、科研机构、医疗卫生机构、企业等是本单位人工智能科技伦理审查管理的责任主体，应按照《伦理办法》第四条有关要求，设立人工智能科技伦理委员会（以下简称委员会）。委员会应配备必要的工作人员、办公场所和经费等条件，采取有效措施保障委员会独立开展工作。鼓励有资质的相关单位开展人工智能科技伦理管理体系相关认证。

第十条委员会章程、组成和委员职责、义务应依照《伦理办法》第五条至第八条进行。委员会组成应包括人工智能技术、应用、伦理、法律等相应专业背景的专家。

第十一条地方、相关主管部门可结合实际情况依托相关单位建立专业性人工智能科技伦理审查与服务中心（以下简称服务中心）。服务中心接受其他单位委托，提供人工智能科技活动伦理审查、复核、培训、咨询等服务。服务中心不得对同一人工智能科技活动同时提供审查和复核服务。服务中心应建立规范的管理制度和程序，配备具有人工智能科技伦理审查与服务能力的专职人员，接受地方或相关主管部门监督。

第四章工作程序

第一节申请与受理

第十二条对属于本办法第二条所列范围人工智能科技活动的，人工智能科技活动负责人应向本单位委员会申请，单位未设立委员会或委员会无法胜任科技伦理审查工作要求，向本单位委托的服务中心申请开展科技伦理审查，无单位人员应委托符合要求的服务中心开展科技伦理审查。人工智能科技活动负责人应依照规定向委员会或服务中心提交申请材料。申请材料主要包括：

（一）人工智能科技活动方案，包括研究背景、目的和计划，所涉及相关机构的合法资质材料、人员情况、经费