两图五问详解《人工智能科技伦理审查与服务办法(试行)》
《人工智能科技伦理审查与服务办法
（试行）》深度解析
近期，由工业和信息化部等十个部门共同发布了《人工智能科技伦理审查与服务办法（试行）》（简称《办法》）。为了帮助大家更准确地理解并落实《办法》，现将核心内容进行如下解读。
党和国家始终将科技伦理工作置于重要位置。2022年3月，中共中央办公厅与国务院办公厅联合发布《关于加强科技伦理治理的意见》，对科技伦理治理进行了顶层规划与系统安排；2023年9月，科技部等十部门出台《科技伦理审查办法（试行）》，细化了审查主体与程序；2024年7月，党的二十届三中全会再次重申“加强科技伦理治理”。随着人工智能技术的迅猛发展与对各行业的深度赋能，算法歧视、深度伪造等伦理风险日益显现。作为人工智能治理的关键一环，人工智能科技伦理治理涵盖增进人类福祉、公平公正、可控可信、透明可解释、责任可追溯及隐私保护等核心内涵。强化这一治理，是坚持科技向善、守住安全底线、推动产业高质量发展的必由之路。在此背景下，《办法》的出台，既是科技伦理治理要求的具体落实，也是推动人工智能产业创新与负责任发展的现实需求。
二、《办法》如何与现有的人工智能治理政策法规相衔接？
《办法》与现行相关政策法规实现了高效协同。
《办法》与《科技伦理审查办法（试行）》紧密对接。后者作为覆盖各领域的综合性通用规定，确立了审查基本程序、内容及标准等统一要求，为《办法》奠定了坚实基础。《办法》在遵循通用规则的基础上，结合人工智能技术特点与伦理原则，在适用范围、申请材料、审查重点及简易程序适用等方面进行了针对性细化，更契合人工智能科技伦理审查的实际需求。
《办法》第二十六条明确，若人工智能科技活动在深度合成、算法推荐、生成式人工智能服务管理等方面已实施登记、备案或行政审批，且将符合科技伦理要求作为审批条件或监管内容，则无需再进行专家复核，从而有效减轻企业合规负担。
此外，《办法》第三十二条规定，对于违反本办法的行为，将依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律法规进行查处并施以相应处罚。
三、《办法》规定的人工智能科技伦理审查流程包含哪些环节？审查重点是什么？
《办法》明确的人工智能科技伦理审查程序主要包含以下环节：
申请：由人工智能科技活动负责人向本单位伦理委员会（简称委员会）或伦理审查与服务中心（简称服务中心）提交申请资料；
受理：委员会或服务中心依据申请材料决定是否受理，确定审查程序并通知申请人；
开展审查：委员会或服务中心采取一般、简易或应急程序实施科技伦理审查；
专家复核：对于列入“需要开展科技伦理专家复核的人工智能科技活动清单”（简称复核清单）的活动，经委员会或服务中心初审后，由单位申请专家复核，并由地方或主管部门组织复核；
作出审查决定：委员会或服务中心根据审查结果作出批准、修改后重审或不予批准等决定；纳入复核清单的活动，则依据专家复核意见作出最终决定；
审查申诉：若申请人对审查决定存疑，可向委员会或服务中心提出申诉；
跟踪审查：委员会或服务中心对获批活动进行跟踪审查，一般不超过12个月一次；纳入复核清单的活动，跟踪审查间隔一般不超过6个月。
委员会或服务中心将围绕人类福祉、公平公正、可控可信、透明可解释、责任可追溯及隐私保护等重点开展审查。同时，还需关注科技人员资质是否符合要求、活动是否具备科学与社会价值、风险受益是否合理、风险控制方案及应急预案是否科学可行等。
四、哪些人工智能科技活动需开展专家复核？具体如何操作？《办法》第三节及附件规定，需开展专家复核的活动主要包括三类：
一是研发对人类主观行为、心理情绪及生命健康有较强影响的人机融合系统；
二是研发具备舆论动员能力和社会意识引导能力的算法模型、应用程序及系统；
三是研发面向存在安全及人身健康风险场景的高度自主自动化决策系统。
开展专家复核的活动，须先通过本单位伦理委员会或委托的服务中心完成初审，再由单位申请复核。其中，中央企业、中央和国家机关直属单位直接向相关主管部门报请，其他单位向地方报请。地方或主管部门按规定组建复核专家组，对初审意见的合规性与合理性进行复核，并在收到申请后30日内反馈意见。委员会或服务中心依据复核意见作出最终决定，同时加强对复核清单活动的跟踪审查，间隔一般不超过6个月。若伦理风险发生重大变化，需重新审查并申请专家复核。
五、《办法》在人工智能科技伦理服务与促进方面提出了哪些具体措施？
《办法》专设第二章“服务与促进”，围绕标准建设、促进服务、鼓励创新、宣传教育、人才培养五大方面制定务实举措，精准解决当前人工智能企业伦理治理中技术手段不足、标准规范不完善、治理工具匮乏等问题。
一是鼓励高校、科研机构、医疗机构、企业及科技社团参与伦理标准制定，凝聚共识，完善体系。
二是推进伦理服务体系建设，强化风险监测预警、检测评估、认证、咨询等服务供给，加大对中小微企业的支持力度，降低合规成本。
三是支持伦理审查技术创新，鼓励企业利用技术手段防范伦理风险。
四是加强伦理宣传教育，提升公众伦理意识与素养。
五是推动职业与课程体系建设，通过多种方式培养伦理人才。