全球首份AI伦理规范——联合国教科文组织《人工智能伦理问题建议书》解读

——联合国教科文组织《人工智能伦理问题建议书》

2021年11月 · 巴黎 | 193个会员国一致通过

◆ ◆ ◆

编 者 按

人工智能的进步，已经成为当今人类所面临的最为重大的课题。

其意义与迫切性，已经超越了气候变迁，超越了种族冲突与地缘博弈——因为上述每一议题的未来走向，都将受到 AI 的深刻重塑；而 AI 一旦失控，其反噬力度也将远超任何单一危机，更切身、更根本。

AI既能成为人类前行最强劲的助力，也可能演变为文明最沉重的枷锁。正因如此，人工智能的边界何在？技术研发应恪守何种准则？伦理红线应当如何划定？这些追问不再只属于技术专家，而是关乎全人类。

事实上早在2021年11月，联合国教科文组织193个会员国便共同通过了《人工智能伦理问题建议书》——这是全球第一份、也是迄今覆盖面最广的AI伦理规范文件。

在生成式人工智能迅猛发展的今天，我们更需要重新审视这份文件，从其条款出发，深入探讨AI的边界、开发准则与伦理底线。

有些底线，应当如同人体新陈代谢这类最为基础的生命机能一般，嵌入AI的最底层架构之中，人工智能的一切研发与应用，都应当以此为约束准绳。

壹为什么是这份文件

2021年11月23日，巴黎，联合国教科文组织第41届大会。

193个会员国经协商达成一致，审议通过了《人工智能伦理问题建议书》——这是全球范围内首部关于AI伦理的规范性文件。

从2019年大会授权启动起草，到多轮政府间磋商、广泛吸纳技术界与民间社会意见，这份文件历时近两年才最终成型。

需要指出的是，「建议书」并非具备约束力的条约，会员国依据自愿原则采纳适用。然而在AI这样一个技术疾驰、规则缺位的领域，193个国家就同一套价值理念、基本原则与政策框架形成共识，本身便是一座里程碑——它确立了迄今为止最为广泛的全球共识基线。

建议书开篇即阐明，这份文件所要应对的挑战：

「人工智能从正反两方面对社会、环境、生态系统以及人类生活包括人类认知产生深刻而持续的影响，部分原因在于人工智能以新的方式左右着人类的思维、互动与决策。」

请留意那个用词——「人类认知」。

贰如何界定AI，又管到哪

建议书刻意回避了对人工智能下绝对定义——技术迭代太快，任何定义终将过时。它转而描述其特征：人工智能系统是「具备以类智能行为方式处理数据与信息之能力的系统」，通常涵盖推理、学习、感知、预测、规划或控制等功能，包括机器学习（深度学习、强化学习）与机器推理等技术路径，也涉及物联网、机器人系统、社交机器人等应用形态。

在监管范围上，它涵盖了全生命周期：从研究、设计、开发，到部署与使用，再到维护、交易、融资、监测评估，直至使用终止与拆解终结。任何环节的参与者——研究者、程序员、企业、大学、终端用户——均为「人工智能行为者」，均受其伦理框架约束。

叁四大价值观：AI不可动摇的锚

价值观是原则的根基。建议书确立了四项核心价值观，任何AI的开发与应用，均不得与之抵触：

一、尊重、保护和促进人权和基本自由以及人的尊严。「每个人与生俱来且不可侵犯的尊严」是一切逻辑的起点。在AI系统生命周期的任何阶段，任何人或群体在身体、经济、社会、政治、文化或精神等任何维度上，「都不应受到伤害或被迫处于从属地位」。

二、环境和生态系统的繁荣。「环境和生态系统是关乎人类及其他物种能否享有AI进步带来福祉的前提条件。」所有人工智能行为者应当降低碳足迹，杜绝不可持续的自然资源开采。

三、确保多样性和包容性。无论种族、性别、年龄、语言、宗教、残障与否，人人享有平等参与权；应借助国际协作，弥补而不利用欠发达地区在基础设施、教育与法律框架上的短板，确保任何国家、任何个体都不掉队。

四、生活在和平、公正与互联的社会中。人工智能不得隔离或物化人类与社区，不得削弱其自由、自主决策与安全，不得分裂个人与群体或使其相互对立。

肆十项原则：技术开发者的十条准则

价值观之下，是十项更具操作性的原则。它们既可作为各国立法的参照，也可视为致技术开发者的十条行为准则：

01 相称性和无伤害 是否采用AI、采用何种方法，须证明其适当且相称；存在伤害风险时，必须先行落实风险评估与防范措施。

02 安全和安保 在整个生命周期内，预防并消除意外伤害（安全风险）与易受攻击的脆弱性（安保风险）。

03 公平和非歧视 尽一切合理努力，防止算法复制、放大既存的偏见与歧视；对歧视性算法决定，应提供有效救济途径。

04 可持续性 持续评估AI对人类、社会、经济与环境的多维度影响，使其促进而非阻碍可持续发展。

05 隐私权和数据保护 数据的收集、使用、共享、归档与删除，须符合国际法、获取知情同意，并以设计手段内置隐私保护机制。

06 人类的监督和决定 「人工智能系统永远无法取代人类的最终责任和问责。」是否在有限情形下让渡控制权，永远由人类决定。

07 透明度和可解释性 公众应被充分告知，有权要求解释性信息，有权就有害决定通过人工渠道提出意见并获得审查纠正。

08 责任和问责 建立监督、影响评估、审计与尽职调查机制，保护举报者，确保系统可审计、可追溯。

09 认识和素养 人工智能素养是全民教育命题：让所有社会成员都能就AI的使用作出知情判断，免受不当影响。

10 多利益攸关方和适应性治理与协作 治理并非政府的独角戏。政府、企业、学界、公民社会、媒体，乃至青年和儿童团体，均为不可或缺的参与者。

十项原则之中，有三句话值得单独列出——它们是这份全球共识里最为清晰的底线：

「人工智能系统尤其不得用于社会评分或大规模监控目的。」

「一般而言，生死攸关的决定不应让给人工智能系统来作。」

「最终责任和问责必须总是落实到自然人或法人身上，人工智能系统本身不应被赋予法律人格。」

伍十一个政策行动领域：从原则到落地

建议书给出了十一个政策行动领域，逐一向会员国提出具体要求：

① 伦理影响评估—— 高风险系统投放市场前须进行广泛测试，评估对人权、社会、环境与伦理的影响，并酌情向公众开放。

② 伦理治理和管理—— 建立包容、透明、可问责的治理机制；鼓励设置独立的「人工智能伦理干事」，承担监督评估、审计与持续监测职责。

③ 数据政策—— 个人应能访问乃至删除自身在AI系统中的数据；推动优质、开放、可信的数据集建设。

④ 发展与国际合作—— 弥合「地缘技术鸿沟」：「技术最先进的国家有责任支持最落后的国家」，共享AI发展红利。

⑤ 环境和生态系统—— 评估碳足迹、能源消耗与原材料开采的影响；优先采用数据、能源和资源节约型AI方法；若将对环境造成极其严重的负面影响，「不得使用人工智能」。

⑥ 性别—— 确保AI消除而非放大性别差距；识别并主动纠正系统中隐含的性别刻板印象。

⑦ 文化—— 保护濒危语言与非物质文化遗产；防止文化内容与市场向少数行为者集中；关注AI与知识产权的交汇。

⑧ 教育和研究—— 面向所有公众开展AI素养教育；推动纳入伦理学、法学、哲学、社会学等学科的跨学科AI研究。

⑨ 传播和信息—— 借助AI优化信息获取，同时减少和打击虚假信息、错误信息与仇恨言论。

⑩ 经济和劳动—— 应对劳动力市场冲击：技能提升与重塑计划、过渡期员工保留机制，以及为无法再培训劳动者备好的「安全网」。

⑪ 健康和社会福祉—— 人工护理及最终的诊断和治疗决定一律由人类作出；用户应能轻松识别交互对象为人还是机器，并有权要求人工介入。

陆共识，是最稀缺的基础设施

建议书要求会员国定期向教科文组织报告实施进展。

2023年以来，面对生成式人工智能的集中爆发，教科文组织反复提醒各国加快落地节奏，并陆续发布面向生成式人工智能的教育与研究指南等文件——那份2021年形成的框架，正在被现实逐条印证其远见：透明度、人类监督、责任归属、数据保护，每一条都精准命中当下争论的核心。

回到编者按的问题：人工智能的发展边界在哪里？这份文件给出的答案是——边界不在技术上能不能，而在伦理上该不该。

人的尊严不可让渡，

最终责任不可外包，

生死抉择不可移交，

社会评分与大规模监控不可为。

人工智能的问题，归根结底是人的问题。193个国家，在五年前划下的这条线，今天读来，是一场刚刚拉开序幕的漫长对话的开篇。

◆ ◆ ◆

资 料 来 源

联合国教育、科学及文化组织《人工智能伦理问题建议书》（中文版），2021年11月第41届大会通过，教科文组织数字图书馆：unesdoc.unesco.org/ark:/48223/pf0000381137_chi（另一版本：pf0000380455_chi）

本文为原文的个人解读，如需研读全文（共141段），请访问教科文组织数字图书馆获取。