人工智能伦理审查办法出台

日前，工业和信息化部等十个部门联合发布《人工智能科技伦理审查与服务办法（试行）》（下称《办法》），明确提出要建立健全人工智能科技伦理标准体系，支持伦理审查相关技术创新，并强调运用技术手段防控人工智能科技伦理风险。这为我国开展人工智能科技伦理审查与服务提供了清晰指引。

业内专家指出，《办法》的发布，意味着我国人工智能伦理治理正由原则性倡议加快转向制度化、规范化、可落地实施的新阶段，也为促进人工智能产业健康有序发展提供了重要制度依据。

据了解，《办法》围绕人工智能科技伦理审查的适用范围、服务保障、实施主体、工作流程、监督管理等方面作出系统规定，并结合人工智能科技活动的实际特点，进一步细化了申请受理、一般程序、简易程序、专家复核程序、应急程序等不同审查流程要求，有力提升人工智能科技活动伦理治理的规范性。

《办法》明确，开展人工智能科技伦理审查，应重点围绕人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护6个方面进行审视，包括训练数据选取标准是否科学，算法、模型和系统设计是否合理；是否采取有效措施防止偏见歧视、算法压榨，确保资源分配、机会获取和决策过程具备客观性与包容性；是否合理公开算法、模型、系统的用途、运行逻辑、交互方式说明以及潜在风险等信息。

事实上，近年来，我国始终坚持“伦理先行”的治理导向，在统筹发展与安全的基础上，持续推进人工智能科技伦理治理。例如，在伦理规范层面，国家新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》，对人工智能科技伦理的基本要求进行了明确，覆盖人工智能管理、研发、供应、使用等全流程。在制度体系层面，中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》对科技伦理治理进行了顶层设计和系统部署，搭建起我国科技伦理治理的基本模式、监管框架和制度体系。

“此次《办法》是国家科技伦理治理体系在人工智能领域的具体落实，也是我国科技伦理制度链条的重要拓展与细化完善。”工业和信息化领域科技伦理专家委员会主任委员魏一鸣表示，《办法》立足人工智能技术迭代迅速、跨界融合深入等特征，在通用审查规则基础上实现了面向领域的精细化适配，填补了人工智能科技伦理审查方面的制度空缺。

为推动人工智能科技伦理服务体系建设，《办法》从标准建设、服务体系、鼓励创新、宣传教育、人才培养五个方面提出支持措施，帮助企业切实增强科技伦理风险防范能力。其中明确，要强化人工智能科技伦理风险监测预警、检测评估、认证、咨询等服务供给；推动人工智能科技伦理审查高质量数据集有序开源开放，加强通用风险管理和评估审计工具研发，探索基于应用场景的科技伦理风险评估评测机制等。

“伦理治理不仅离不开制度规范，也同样需要技术能力支撑。”魏一鸣认为，具备较强技术基础的企业、高校和科研机构，应主动承担研发科技伦理治理“硬科技”的责任，加强人工智能伦理治理技术研发和工具创新。围绕可解释人工智能、算法公平性监测、深度伪造识别等关键技术开展专项攻关，为伦理审查提供更有力的技术工具。通过开发实用化伦理评估工具、风险模拟平台和算法审计系统，把抽象伦理原则转化为可量化、可操作、可嵌入工程流程的技术指标和解决方案，进一步推动伦理治理向技术化、工程化方向发展。（记者 郭倩）