人工智能伦理治理新框架：平衡创新与安全的实践指南

当前，人工智能正加速渗透至经济社会发展各环节，深刻重塑人类生产与生活模式。然而，算法歧视、数据侵权、滥用隐患等伦理安全问题日益凸显，对个人权益、社会秩序乃至国家安全构成潜在威胁。党和国家对人工智能治理工作极为关切，明确要求把握技术演进规律，加快完善相关法规政策与技术标准。日前，全国网络安全标准化技术委员会正式发布《人工智能应用伦理安全指引1.0》，该文件系统划定人工智能伦理安全底线与边界，为技术规范有序、向善发展提供操作性指引与制度化保障。

一、统筹发展与安全，构建中国特色人工智能伦理治理体系

我国紧密结合国情实际，着力防范化解人工智能伦理风险，逐步形成以顶层规划为指引、软性指导与硬性约束相结合的中国特色人工智能伦理安全治理框架。在软性指导层面，先后推出《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》以及《人工智能安全治理框架》1.0版、2.0版，将伦理准则嵌入人工智能全链条，系统防控安全风险。在硬性约束层面，通过《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》《人工智能拟人化互动服务管理暂行办法》以及修订后的《中华人民共和国网络安全法》，强化伦理安全规范与风险监测机制。在顶层设计层面，依托科技伦理治理、网络信息治理、产业治理等多元机制，推动构建多部门协同、社会各界共治的治理格局，通过《全球人工智能治理倡议》深度参与全球治理，通过《国务院关于深入实施“人工智能+”行动的意见》探索形成智能向善理论体系。

我国人工智能伦理安全治理体系日趋完善，伦理风险防控正加速从制度层面向实践层面转化，但仍面临若干现实困境与突出挑战。伴随人工智能加速赋能各行各业，出台《指引》既是促进人工智能规范有序发展的内在需求，也是有效防范化解人工智能应用层面伦理风险的重要举措。

一是筑牢伦理安全防线，保障人工智能稳健发展。《指引》的发布立足人工智能发展新阶段，围绕人类主导权、公共秩序、个体认知与社会价值、可持续生态影响等核心领域，系统阐述伦理安全理念、原则与行为规范，有助于推动人工智能在可控、可靠、安全轨道上运行，防范技术异化与滥用风险，确保人工智能始终服务于人类福祉与社会经济发展。

二是规范产业发展秩序，促进人工智能负责任创新。《指引》围绕应用开发、服务提供、应用使用等全链条提出明确要求，强调将以人为本、生命至上、公平公正、公开透明、可控可信等伦理安全准则贯穿人工智能应用全过程，推动企业在技术创新与产业应用中强化伦理安全责任。这既有助于营造规范有序、可持续发展的产业生态，也有利于推动人工智能产业在规范发展中实现更高质量跃升，进一步增强产业创新能力、应用水平与社会公信力。

三是提升公众使用素养，防范技术滥用风险。《指引》强调正确认知人工智能的能力边界与潜在影响，倡导增强自主判断、妥善运用人工智能技术，明确提出提高公众对虚假错误信息、误导性内容与伦理安全风险的识别能力。同时，《指引》鼓励建立风险提示、投诉举报、反馈纠偏等机制，推动形成政府、企业、社会公众多方协同的治理格局，有助于提升全民人工智能应用素养与风险防范意识，减少技术滥用对社会的负面影响。

二、强化技术指引，多维度筑牢伦理安全防线

一是为各应用主体提供清晰行为准则。《指引》围绕应用开发者、服务提供者和应用使用者三类主体，分别提出系统性规范要求，明确人工智能研发、部署、运营、使用全过程的责任边界与行为规范。在开发环节，强调将可控性、公平性、透明度等目标贯穿应用开发与更新全过程，要求开发者开展伦理安全影响评估、建立事故信息追溯机制；在服务提供环节，强调理性引导、隐私保护、风险提示与应急处置；在应用使用环节，倡导妥善运用、审慎提供敏感信息、尊重他人合法权益。通过构建全链条责任体系，《指引》有助于推动各主体形成规范意识与责任意识，减少人工智能应用中的伦理安全失范行为。

二是防范化解人工智能伦理安全风险。人工智能风险具有复杂性、隐蔽性、扩散性与外溢性等特征，一旦失控，可能对个人、社会乃至国家造成较大冲击。《指引》聚焦人工智能可能引发的人类主导权弱化、社会秩序影响、价值体系冲击、偏见歧视、合法权益侵害、可持续生态压力等问题，提出覆盖事前预防、事中监测、事后处置的系统性治理要求。例如，《指引》要求建立必要的应急处置与人工干预机制，防范人工智能脱离人类监督；要求持续监控服务及运行过程，识别发现伦理安全风险并及时处置；要求设置事故信息追溯机制，实现责任可追溯。这些举措有助于提升人工智能风险治理能力，增强技术应用的安全性与可控性。

三是引导人工智能向善发展。《指引》坚持以人为本、智能向善理念，强调人工智能应服务于经济社会发展和人民福祉提升，而非削弱人的主体地位或加剧社会不公。《指引》强调公平包容、机会均等与普惠共享，关注未成年人、老年人、残障人士等重点群体权益，倡导人工智能提升公共服务公平性与可及性。同时，鼓励开源创新、知识共享与多元技术路径探索，推动人工智能应用成果更广泛惠及社会公众。这有助于推动人工智能技术始终与社会公共利益保持一致，引导人工智能始终坚守正向价值、践行向善发展。

四是完善伦理安全协同治理体系。人工智能治理是一项系统工程，涉及法律法规、伦理规范、技术标准、社会监督、国际合作与公众参与等多个层面。《指引》在理念层面提出敏捷共治、协同治理等原则，在实践层面提出伦理安全评估、风险监测、信息提示、投诉反馈等制度安排，为构建我国人工智能伦理安全治理体系提供了重要补充。同时，《指引》强调加强国际衔接与安全互认，推动治理规则、技术标准与安全基准兼容互洽、同步演进，有助于提升我国在全球人工智能治理中的活跃度与影响力，推动形成开放、合作、共赢的人工智能治理格局。

三、构建协同共进发展格局，护航人工智能高质量发展

一是规范人工智能产业发展。《指引》的出台有助于进一步规范人工智能产业发展秩序，推动行业从重速度、重规模向重质量、重安全、重责任转变。通过明确伦理安全要求与风险防控机制，减少无序竞争、低水平重复建设以及因安全问题导致的产业风险，增强市场主体的合规意识与长期发展能力。同时，统一规范有助于增强社会公众与市场对人工智能产品与服务的信任度，推动人工智能实现规范、有序、可持续发展。

二是推进人工智能创新生态建设。《指引》并非限制技术创新，而是强调安全与发展并重，推动技术创新更加注重长期价值与社会责任。通过将可控可信、公平公正、隐私保护等要求前置到研发与设计阶段，有助于推动可信人工智能、隐私计算、可解释算法、安全评测等关键技术发展。同时，《指引》鼓励开源生态建设、多元技术探索与协同创新，有利于形成更加开放包容、健康可持续发展的人工智能创新生态，提升我国人工智能核心竞争力。

三是提升智能化社会治理水平。人工智能正深刻改变社会治理模式。《指引》有助于推动人工智能在医疗健康、信息传播、科研教育等领域规范应用，在提升治理效率与治理能力的同时，防范自动决策失当、信息操纵、侵害知识产权等问题影响人身安全与社会公平。特别是在社会治理、公共服务等关键领域，《指引》强调普惠可及、程序正当、结果复核与公众救济机制，有助于维护社会公平正义，提升现代化治理能力与治理公信力。

四是健全公众权益保护机制。《指引》更加突出对个人合法权益的保护，围绕隐私保护、个人信息安全、知情权、选择权、申诉权等提出明确要求，有助于增强公众在人工智能时代的安全感与获得感。同时，《指引》强调妥善运用人工智能，防范过度依赖、沉迷使用、虚假信息误导等问题，并要求加强未成年人、老年人、残障人士等重点群体保护。这有助于推动形成安全、可信、健康的人工智能应用环境，更好保障人民群众合法权益。

作者：刘博国家互联网应急中心党委副书记、副主任