中国发布人工智能伦理安全指引详解

近日，全国网络安全标准化技术委员会于2026年5月19日正式公布了《人工智能应用伦理安全指引1.0》。作为一份指导性技术文件，它需与现行法律相协调。其核心目标在于平衡AI的发展与安全，提供伦理安全指导，确保AI造福人类。文件明确了几个关键概念：人工智能应用即利用具有特定功能的AI在特定场景下实现目标；伦理安全则指在AI活动处理人与社会关系时需保障的价值规范。此外，文件界定了三大责任主体：负责研发迭代的开发者、提供服务者的提供者，以及日常使用AI系统的使用者。

文中列举了AI可能引发的六类伦理风险：包括人类主导权丧失、公共秩序混乱、个体认知与社会价值脱节、社会歧视加剧、生命健康权益受损以及生态不可持续等。针对这些风险，文件确立了九项伦理原则：增进福祉（以人为本，评估就业影响）、尊重生命（避免过度依赖，保障自主权）、公平公正（消除偏见）、合理控险（发展与安全并重）、透明公开（提升可追溯性）、隐私保护（界定边界）、可控可信（保留人工干预）、敏捷共治（多方协同）及普惠共享（构建共生生态）。整体理念是将伦理安全贯穿AI应用全流程，坚持造福人类和社会发展。

指引内容涵盖通用、开发、服务和使用四个层面。通用指引要求所有主体事前评估对国家安全和公共利益的影响，在健康等高风险领域坚持安全优先，关键环节保留人类监督。同时强调隐私公平，防止歧视，特别保护未成年人及老年人。此外，针对不同场景提出具体要求：信息传播要防误导，知识生产要重知识产权与验证，金融活动需稳健并保护消费者。

开发方需将伦理前置，不以性能为唯一指标，审慎开发高自主性AI并评估失控风险，理性管控“幻觉”输出，提供透明指南与追溯机制，并确保包容性设计。服务方在重大安全场景中应让AI仅作辅助，提供便捷的拒绝和断电机制，遵循数据最小化，建立监控干预体系，提升服务公平性。使用者需理性认识AI能力，避免过度依赖，合法合规使用，不伪造身份，审慎提供敏感信息，并积极反馈风险。

该文件构建了从原则到实践的全生命周期治理框架，覆盖AI研发到使用全过程。核心在于强调人类主导，在关键节点保留干预能力，防止AI失控替代决策。文件兼顾发展与安全，鼓励在边界内有序发展，并特别关注弱势群体保护，从设计源头消除偏见。通过明确三方责任，形成了清晰的责任链条。指引将抽象原则细化为具体操作（如断电机制），落地性强。同时前瞻性涉及AI体、幻觉、开源生态等议题，体现了对技术趋势的准确把握。作为重要技术指引，它贯彻了“以人为本、智能向善”的理念，为各方提供了系统行动参考。