专家解读：筑牢伦理安全防线，护航人工智能规范前行

当前，人工智能技术飞速迭代，正由内容创作、智能交互向行业赋能、公共服务、知识创造及社会治理等多元领域延伸，深刻重塑生产生活方式与社会运行逻辑。推动人工智能健康有序发展，既要充分激发技术创新活力，更要坚守以人为本、智能向善理念，统筹发展与安全，引导人工智能应用更优服务于经济社会发展及人民美好生活。近日发布的《人工智能应用伦理安全指引1.0》（下称《指引》），立足应用实际，为推动伦理安全治理从原则倡导迈向实践落地提供了关键参照。

人工智能应用伦理安全治理，关乎技术创新方向、产业应用秩序及社会公共利益，既需坚守正确价值导向，也需在应用实践中持续凝聚共识。随着应用拓展加速，不同领域与场景对伦理安全的认知与关注点各异，亟需构建相对统一的认识基石。《指引》编制期间，注重汇聚主管部门、行业部门及产学研用多方力量，充分听取相关部门、专家学者、企业及行业组织的意见建议。一方面，围绕治理总体方向、政策衔接与实践需求深入沟通，确保《指引》与人工智能治理部署协调一致；另一方面，针对应用活动中的伦理影响、理念原则及主体责任开展专业研讨，吸纳多领域、多行业经验与建议，推动各方在治理目标、基本原则及实践路径上达成更广泛共识。

在此基础上，《指引》立足应用实际，将价值导向、风险边界及实践要求转化为面向应用活动的通用语言与基本遵循，使伦理安全要求可被各方理解、参照与落实。这既彰显了伦理安全治理的价值共识，也兼顾了技术创新与产业应用的现实需求，推动治理工作从共识凝聚走向实践深化。

伦理安全具备价值属性强、涉及面广、形态多样等特征。对于人工智能应用治理，将相关要求转化为清晰的识别维度与治理参照，有助于相关主体在具体活动中理解要求、把握边界、开展实践。《指引》立足实际，系统梳理伦理安全影响，推动宏观价值要求转化为可理解、可识别的标准化对象，为人工智能向善发展提供重要参考。

（一）拓展人工智能治理视野

人工智能伦理安全并非孤立道德探讨，而是其深度融入经济社会发展后，伴随技术创新、产业应用、公共服务及社会治理衍生的重要议题。应用越深入，越需在关注技术、产品及服务安全的同时，进一步关切其对人的主体性、社会秩序、公共利益及长远发展的影响。《指引》从应用活动出发，将伦理安全纳入整体治理框架，有助于引导各方从更宽视野认知应用影响，推动人工智能更好体现以人为本、智能向善的价值取向。

（二）构建伦理安全影响识别框架

提升治理效能，关键在于将复杂多元的伦理影响转化为明确识别框架。伦理安全涵盖价值取向、权利保障、责任边界、社会秩序等多维度，具综合性、关联性及场景性。对主管部门、行业组织、企业及公众而言，形成清晰识别维度，有助于在不同场景环节理解研判伦理安全，推进治理工作。《指引》通过系统梳理应用影响，将抽象多元的要求转化为清晰治理维度，为各方在统一框架下形成认识、开展工作及加强协同提供基础参照。

（三）为重点场景治理提供基础支撑

伦理安全治理需从基础框架迈向场景实践，重点场景是检验细化治理要求的关键领域。公共服务、教育、医疗、金融、内容传播及知识生产等场景，关乎群众切身利益、社会秩序及行业发展质量，对治理提出更具体实践需求。《指引》构建基础性识别框架，有助于面向重点行业、场景及主体细化要求、形成指南、开展评估及积累案例，推动治理更贴近实际、注重落地。

人工智能应用伦理安全治理，既需价值引领，也需将价值要求转化为可遵循的基本规则。《指引》在理念中明确总体取向，并在原则中从人类福祉、生命权利、公平公正、控制风险、公开透明、隐私安全、可控可信、敏捷共治、普惠共享等方面细化，有助于推动价值导向从原则共识转化为规则参照，引导应用在创新中更好服务人的发展及公共利益。

（一）以人为本、智能向善的价值导向

人工智能深度融入生产生活，伦理安全治理须更注重维护人的主体地位、保障合法权益、促进全面发展。《指引》将增进福祉、尊重生命、坚持公平等纳入原则，有助于引导各方在应用中重视人的主体地位与权益，推动应用更好服务经济社会发展及群众实际需要。

（二）促进发展和安全协同推进

人工智能从技术探索走向场景落地，既提升效率创新模式，也引发对伦理安全的更多关注。《指引》将控风险、保透明、护隐私、确可信等纳入原则，有助于引导各方统筹创新价值与安全要求，将伦理安全融入方向把握、制度安排及过程管理，为规范有序发展提供价值参照。

（三）形成价值引领与行为约束相统一的规则体系

治理需在明确价值取向基础上，进一步划定基本边界。《指引》围绕增进福祉、尊重生命、坚持公平、普惠共享等，明确应用应服务人的全面发展及公共利益；围绕控风险、护隐私、确可信等，明确应坚持安全边界与责任约束；围绕保透明、敏捷共治等，明确应增强可理解性、可监督性及协同能力。通过衔接价值目标、风险边界与治理方式，《指引》推动原则从理念转化为可对照把握的规则，引导各方在促进创新同时，更好兼顾权益保护、风险防范及公共利益维护。

围绕应用实践需求，《指引》在明确影响、理念及原则基础上，将要求延伸至应用层面，围绕通用要求及开发、服务、使用等环节形成参照，有助于推动要求从价值共识进入具体过程，为规范开展活动提供行为参考。

（一）以通用指引明确应用活动共性要求

《指引》给出通用指引，将理念原则衔接到应用目的、能力边界、人的监督、权益保护、风险防范等基础环节。通过对共性事项引导，为不同主体、场景提供基本参照，使要求从原则层面进入具体过程。

（二）面向应用活动各方明确实践要求

伦理安全要求需落实到开发、服务及使用等具体活动。《指引》面向各方提出要求，体现依环节特点落实责任的思路。对开发环节，重在推动要求前置融入目标设定、功能设计、技术实现及测试验证，从源头提升安全性、适用性及可预期性。对服务环节，重在推动要求贯穿运行、交互及处置，保持服务规范、可控、可信。对使用环节，重在推动使用者科学认知能力边界、理性审慎开展活动，共同维护安全有序生态。

通过明确各方实践要求，《指引》将原则转化为开发有遵循、服务有规范、使用有边界的指引。此举既利于各方履行环节责任，也有助于促进开发、服务及使用间衔接配合，推动要求更好融入实际、落到场景。

《指引》作为基础性文件，立足实际，突出价值引领、规则传导及责任落实，为完善治理体系提供重要支撑。面向未来，建议以实施为契机，围绕重点行业、场景及主体，持续完善配套标准、指南、方法及案例，推动要求更好融入技术创新、产业发展及社会治理，引导人工智能始终沿以人为本、智能向善、安全可信方向健康有序发展。

作者：范科峰中国电子技术标准化研究院副院长