一文看懂人工智能科技伦理审查与服务办法
《人工智能科技伦理审查与服务办法（试行）》
政策解读
近期，工业和信息化部等十个部门联合发布《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》）。为便于各方准确把握并落实《办法》，现对有关内容说明如下。
一、《办法》出台的背景是什么？
党中央、国务院始终高度重视科技伦理治理工作。2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，对科技伦理治理进行了顶层谋划和系统安排；2023年9月，科技部等十部门联合发布《科技伦理审查办法（试行）》，对科技伦理审查主体、审查程序等作出明确规定；2024年7月，党的二十届三中全会再次提出“加强科技伦理治理”。随着人工智能技术迅猛发展并深度赋能各行各业，算法歧视、深度伪造等伦理风险也日益突出。人工智能科技伦理治理是人工智能治理的重要内容，主要涵盖促进人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等方面。强化人工智能科技伦理治理，是坚持科技向善、守牢科技安全底线、推动产业高质量发展的必然要求。在这样的背景下，出台《办法》既是落实科技伦理治理要求的具体举措，也是促进人工智能产业创新发展、推动负责任创新的现实需要。
二、《办法》与现有人工智能治理政策法规如何衔接？
《办法》与现行人工智能治理相关政策法规形成了有效协同。
《办法》与《科技伦理审查办法（试行）》保持紧密衔接。《科技伦理审查办法（试行）》是覆盖各领域科技伦理审查的综合性、普遍性规定，明确了审查基本程序、审查内容和标准等统一要求，为《办法》提供了基本依据。《办法》在遵循通用规则的基础上，结合人工智能技术特点和伦理原则，在适用范围、申请材料、审查重点、简易程序适用等方面进行了有针对性的补充和细化，更加符合人工智能科技伦理审查的实际需求。
《办法》第二十六条明确，人工智能科技活动在深度合成、算法推荐、生成式人工智能服务管理等方面已实行登记、备案、行政审批等监管措施，且将符合科技伦理要求作为审批条件或监管内容的，可不再进行专家复核，从而有效减轻企业合规压力。
同时，《办法》第三十二条规定，对违反本办法规定的行为，将依照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律法规及有关规定进行调查处理，并依法给予相应处罚。
三、《办法》中规定的人工智能科技伦理审查流程主要包括哪些环节？审查重点关注哪些方面？
《办法》明确的人工智能科技伦理审查程序主要包括：
申请：人工智能科技活动负责人向本单位人工智能科技伦理委员会（以下简称委员会）或人工智能科技伦理审查与服务中心（以下简称服务中心）提交申请材料；
受理：委员会或服务中心根据申请材料决定是否受理，并确定适用的审查程序，通知申请人；
开展审查：委员会或服务中心按照一般、简易或应急程序开展科技伦理审查；
专家复核：纳入“需要开展科技伦理专家复核的人工智能科技活动清单”（以下简称复核清单）管理的科技活动，在通过委员会或服务中心初步审查后，由单位申请专家复核，所在地方或相关主管部门组织实施专家复核；
作出审查决定：委员会或服务中心完成审查后，作出批准、修改后再审或不予批准等决定；纳入复核清单的科技活动，根据专家复核意见作出科技伦理审查决定；
审查申诉：申请人如对审查决定有异议，可向委员会或服务中心提出申诉；
跟踪审查：委员会或服务中心对已获审查批准的人工智能科技活动实施跟踪审查，跟踪审查间隔一般不超过12个月；纳入复核清单的活动，跟踪审查间隔一般不超过6个月。
委员会或服务中心重点围绕人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等方面开展伦理审查。同时，还需关注参与科技活动的科技人员资质是否符合要求，拟开展的科技活动是否具备科学价值和社会价值，科技活动的风险与收益是否匹配，伦理风险控制方案及应急预案是否科学合理并具备可操作性等。
四、哪些人工智能科技活动需要开展专家复核，具体如何开展？
《办法》第三节及附件明确，需要进行专家复核的人工智能科技活动主要包括以下三类：
一是研发对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统；
二是研发具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统；
三是研发面向存在安全、人身健康风险等场景、具有高度自主能力的自动化决策系统。
对于需要开展专家复核的人工智能科技活动，应先由本单位人工智能科技伦理委员会或受委托的服务中心完成初步审查；之后由本单位提出专家复核申请。其中，中央企业、中央和国家机关直属单位直接报请相关主管部门，其他单位报请地方有关部门。地方或相关主管部门按照规定组建复核专家组，对初步审查意见的合规性、合理性进行复核，并在收到复核申请后30日内反馈复核意见。委员会或服务中心依据复核意见作出最终审查决定，同时对纳入复核清单的活动加强跟踪审查，跟踪审查间隔一般不超过6个月。如伦理风险发生重大变化，应重新开展审查并再次申请专家复核。
五、办法在人工智能科技伦理服务与促进方面提出了哪些具体举措？
《办法》专门设置第二章“服务与促进”，围绕标准建设、促进服务、鼓励创新、宣传教育、人才培养五个方面提出务实举措，着力解决当前人工智能企业伦理治理中存在的技术手段不足、标准规范不健全、治理工具缺乏等问题。
一是鼓励高等院校、科研机构、医疗卫生机构、企业以及科技类社会团体等参与人工智能科技伦理标准制定，凝聚行业共识，健全标准体系。
二是推进人工智能科技伦理服务体系建设，强化风险监测预警、检测评估、认证、咨询等服务供给，加大对中小微企业人工智能科技伦理审查的支持服务力度，降低企业合规成本。
三是支持人工智能科技伦理审查技术创新，鼓励企业运用技术方式防范伦理风险。
四是加强人工智能科技伦理宣传教育，提升社会公众的伦理意识和素养。
五是推动职业体系和课程体系建设，通过多种途径培养人工智能科技伦理人才。