善用伦理治理，护航AI高质跃升

傅宏宇 阿里研究院人工智能治理中心主任

科技伦理监管是引导AI技术朝着有益方向演进的关键支撑。我国始终高度关注人工智能伦理议题，《新一代人工智能伦理规范》《科技伦理审查办法（试行）》已确立基本遵循。在此基础上，《人工智能科技伦理审查与服务办法（试行）》（简称《伦理办法》）为人工智能伦理治理构建了更具操作性的规范框架与实施路径：其一，依托伦理准则的引导作用，明确技术应用的禁区，通过分层分类管控制度积极限定技术演进范围，有效遏制技术不当使用隐患，守护公共安全；其二，针对人工智能技术的未知变数，要求研发过程遵循可诠释、可溯源准则，确保各利益相关方免于技术歧视，推动创新成果广泛惠及，保障技术公正性与公开性，助力可持续发展；其三，借助多学科协同治理，将人本理念、生态责任等价值导向融入研发环节，促进技术与公共价值同频共振。

协调推进与安全保障并重是我国人工智能治理的根本方针。《伦理办法》的制定与实施契合人工智能技术演进的客观规律，为合规的技术创新应用筑牢伦理防线。首先，打通人工智能总体发展蓝图与伦理执行体系的连接通道，在多重目标间构建稳定性与适应性兼备的规则体系。《伦理办法》以推动人工智能科技创新为首要任务，顺应创新逻辑，汲取国内外伦理治理实践经验，紧扣人工智能发展阶段特征与伦理风险态势，统筹兼顾技术突破与风险管控。《伦理办法》第二章专门章节推动伦理服务与产业进步，在标准建设、服务优化、创新激励、科普宣传、人才培育等维度，从科技伦理助力行业视角提出具体措施，彰显发展与规制相统一的总体架构。

二是把握人工智能技术尖端化演进与普及化落地过程中的风险演变特点，在既有制度框架、监管能力边界、治理惯性依赖的现实条件下，凝聚风险认知，构建契合人工智能发展应用特性的分层分类监管范式。《伦理办法》通过界定适用边界，助力行业精准判断人工智能伦理风险领域。科技伦理审查的常规流程与简化流程聚焦生命健康、人格尊严、生态环境、公共秩序、可持续发展等核心议题，复审范畴则针对对人类行为模式、心理情感及生命健康产生显著作用的人机融合系统，具备舆论引导力与社会思潮塑造力的算法模型、应用程序及系统研发，以及面向存在安全、人身健康风险等场景的高自主性决策系统研发。这种分层分类的治理范式既是对我国人工智能伦理风险治理实践的经验提炼，也为全球科技伦理治理贡献了有益参照。

三是强化伦理治理体系构建，通过制度设计化解各类参与主体伦理素养参差不齐的困境，以外部规制作引导，培育人工智能生态体系内的内生秩序。鉴于人工智能企业与研发机构的现实状况，《伦理办法》将开展人工智能科技活动的高校、科研院所、医疗机构、企业界定为伦理管理服务的责任主体，要求具备条件的机构应组建人工智能伦理委员会。针对人工智能活动主体的多样化特征，《伦理办法》既设定审查规范，又着力推进伦理服务体系建设，在第三章提出设立伦理服务中心，为人工智能科技活动提供伦理审查、专业培训、咨询服务等，以专业高效、资源集中的方式为从业主体提供伦理管理支撑，助力提升伦理意识、赋能能力建设，切实提高了人工智能全行业的整体治理水准。

身为科技领军企业，阿里巴巴集团在推进AI技术革新与落地的同时，始终秉持负责任的创新理念，恪守伦理合规底线，积极开展伦理体系构建。2022年，阿里集团组建科技伦理委员会，确立了人本导向、普惠公正、安全稳固、隐私防护、可信可管、开放协同六大伦理准则，携手外部专家及社会各界共建阿里'良善科技'。伦理委员会在制度规范、技术标准、操作流程、能力建设等维度持续完善治理架构，编制了《阿里巴巴集团科技伦理治理准则》及《阿里巴巴集团科技伦理治理审查管理规范》，协助各业务板块搭建并优化治理体系，多方协同推进治理机制落地。2024年12月，中国人工智能产业发展联盟发布《人工智能安全承诺》，阿里作为首批签约的17家行业龙头之一，自愿作出承诺，主动就风险管理机制、模型安全、数据安全、基础设施安全、模型透明度及前沿安全研究等举措实施自律公示，提升大模型透明度，增进各方信任，助推产业良性发展。

在人工智能技术快速演进、商业范式持续革新、应用边界不断拓展的当下，伦理治理亟需夯实基础、提升内力。为系统性增强安全评估的效率与精度，阿里巴巴集团安全部与浙江大学智能系统安全实验室共同推出S-Eval大模型安全测评体系，搭建了四层风险分级架构（涵盖8大领域、102项细分风险），并运用专家测评LLM（自主生成攻击指令）与安全评判LLM（风险量化与解析）双模型机制实现敏捷、持续的评估。其开放数据库涵盖22万条测试用例，支持中英双语环境，显著增强模型安全性与透明度。S-Eval不仅为业界提供了高性价比、广覆盖的测评方案，更驱动了大模型伦理治理的智慧化跃升。该项目亦入选中国人工智能产业发展联盟科技伦理工作组《工信领域科技伦理敏捷治理典型案例集（2024）》。

依托伦理治理的全方位实践，我们致力于为打造更安全、可信赖的数字生态夯实根基，促进技术演进与社会责任的深度耦合。展望未来，人工智能技术将持续高速演进，应用落地将更为多样纷呈，强化伦理理念宣导、完善治理体系构建、提升责任担当意识，有助于构筑融洽的人机协作关系，使人工智能技术有担当、富人文，确保AI以增进人类福祉为宗旨，以人类发展诉求与安全需求为核心，为我国人工智能高质发展筑牢安全防线与信任基石。