前沿AI治理研讨会：共筑安全、包容与全球协作

点击蓝字

关注我们

瑞士时间2026年7月8日下午，清华大学人工智能国际治理研究院与国际人工智能治理协会（IAGA）共同主办的闭门研讨会“前沿AI治理：安全、包容与全球协调”在日内瓦希尔顿会议中心召开。会议吸引了逾四十位来自政府、国际组织、学术机构、研究单位和产业界的知名专家，深入探讨了前沿人工智能的安全保障、模型评估、国际协同及包容性治理等核心议题。清华大学党委常委、副校长王宏伟出席并致辞，文科资深教授、人工智能国际治理研究院院长薛澜主持了开幕式。

王宏伟在致辞中代表学校，向与会嘉宾致以诚挚欢迎，并对联合主办方国际人工智能治理协会及合作伙伴表达谢意。他强调，2026年人工智能已从技术突破全面转向规模化应用的新时期，AI智能体加速融入企业生产系统，全球围绕技术、供应链和规则制定权的综合竞争愈发激烈；同时，国际合作仍是行业发展主旋律，各国正借助联合国等多边框架，就AI安全、治理及标准互认展开对话。他表示，清华大学始终坚守开放理念，致力培养具有国际视野的高素质创新人才，为全球AI发展和治理贡献中国智慧。期望通过此类包容性国际平台，汇聚政产学研各界智慧，促进AI治理经验共享与体系构建。他期待本次论坛凝聚全球共识，为深化AI发展与治理的国际合作提供智力支持，并预祝会议圆满成功。

会议上半场由清华大学人工智能国际治理研究院副院长梁正主持，邀请了加州大学伯克利分校计算机科学教授Stuart Russell，世界工程组织联合会前主席、南开大学前校长龚克教授，日内瓦大学高级研究员、国际标准化组织前助理秘书长Daniele Gerundino，AI Safety Connect创始人Cyrus Hodes，无问芯穹首席技术官李博勋等专家参与讨论。

Stuart Russell驳斥了“技术变化太快、治理跟不上”的常见说法，指出药品、核能和航空发动机等领域均采用“设定安全性能门槛、不规定具体技术路径”的监管模式。他认为一条根本且不可妥协的“底线”在于：人类有权知晓自己是在与机器还是真人交互，并以此为基础推动全球统一的AI内容标注标准。同时，Stuart Russell教授批评当前AI开发缺乏真正的“安全工程”，而是“炼金术”式的黑箱操作，企业选择技术路线时从未考虑可验证性。针对“系统知道自己在被测试”的难题，他认为责任在于开发者，必须采用科学有效的验证方法，而这不应否定“底线”的存在。最后，他呼吁在《世界人权宣言》基础上建立跨国的“合理期望”共识，对“公平”等核心概念给出可区分的技术定义，避免欧洲AI法案中"代表性数据集"这类缺乏精确内涵的表述。

龚克从工程实践角度出发，强调安全工程是一个覆盖产品全生命周期的动态过程，并以医疗AI模型为例，指出更深层的挑战在于难以构造出AI无法识别的“真实环境”测试集，这是工程界必须解决的难题。同时，他呼吁科学界优先研究AI的可解释性，以支撑安全和可信；工程界则应致力于提升安全上限，并系统性地研究递归行为等新现象。最后，龚克教授主张AI治理的终极目标是让AI成为全球公共品，并介绍了中国已出台的双化协同政策，既提升AI自身的能效和水效，也推动AI赋能其他行业减排，这是中国应对AI环境挑战的具体行动。

Daniele Gerundino从标准化与国际治理的现实困境切入，指出人工智能能力提升和风险暴露的速度正在明显超过政府决策、国际协调和标准制定的节奏，认为科学界继续提供风险证据、建立理性论证基础当然重要，但如果假设政府一定会基于科学证据及时采取行动，或假设各国领导人都会以公众福祉为优先，就可能低估当前国际政治环境的非理性和地缘竞争压力。因此，单靠倡议监管、提交科学证据或等待正式标准化流程，可能难以及时回应快速扩散的人工智能风险。他进一步强调，标准化有价值，但不能被神化，因为正式标准制定往往受到企业利益、商业模式和参与机制的制约，而当前头部人工智能公司未必愿意深度参与国际标准制定，也未必愿意接受触及其核心利益的约束。对此，Daniele主张在传统监管和标准化之外发展互补路径，由独立研究机构组成安全科学网络，共同识别有前景的安全研究方向，并将其转化为可推广的技术工具和标准化工具。尤其面对开源模型和开发者生态的快速扩张，“Safe by Design”等更安全的设计工具若能嵌入开发流程，将有助于把人工智能安全从原则讨论转化为更有效的实践能力。

Cyrus Hodes认为人工智能安全不能只停留在科研论证或政府监管层面，还需要建立能够影响企业部署选择的经济激励体系，尤其应把保险、再保险、投资机构和金融资本纳入治理框架。Cyrus指出，随着智能体、开源模型和行业专用人工智能系统快速进入市场，各行业都可能以不同方式部署自己的系统，仅靠原则性倡议很难形成足够约束，因此需要让风险定价、承保条件、投资标准和资本市场信号参与塑造企业行为，特别是保险行业能够在高风险人工智能系统的部署条件、责任边界和安全要求方面发挥扩散效应。此外，Cyrus提到许多过去被视为红线的问题事实上已经被技术发展逐步突破。因此当前更需要通过资本、保险和产业网络，把人工智能安全从价值共识推进到实际治理机制。

李伯勋强调人工智能治理不能只关注算法、模型行为和软件层面的约束，也必须重视支撑人工智能运行的物理基础设施。人工智能虽然表现为虚拟系统，但其运行始终依赖现实世界中的计算资源、硬件设备、电力系统、芯片环境和电路逻辑，因此物理世界本身仍然构成人类控制人工智能的重要边界。当模型行为难以及时预测、软件规则难以完全约束、法律责任难以即时发挥作用时，基础设施层面的控制仍可能成为限制风险扩散的关键手段——不仅要看系统“能做什么”，还要看其依赖哪些资源、通过哪些设施运行、能否在物理层面被限制或中止。此外，李伯勋认为人工智能应当服务于社会生产力提升，因此治理的目标不应是简单压制创新，而是在保障安全的同时，为人工智能的健康发展建立底层约束和保障机制。

闭门会下半场由清华大学智能法治研究院院长申卫星教授主持，邀请信息通信技术促进和平基金会执行主任Anne-Marie Buzatu，《人工智能治理伦理》主编Christoph Stückelberger教授，苏黎世大学数字社会倡议与人工智能中心负责人王宁教授，人工智能资深产业专家柳嘉琪，清华大学公共管理学院副教授，人工智能国际治理研究院科研专家陈天昊参与讨论。

Anne-Marie Buzatu从国际协调与文化包容的角度出发，指出主权AI的发展趋势并不必然阻碍国际合作，反而可借鉴航空、金融等行业经验，在建立总体原则框架的前提下允许各国依据自身文化、语言和法律需求发展本土AI。她强调，应针对跨境重大威胁设立明确的“红线”，同时制定通用规范确保系统互操作性，并建立国际报告机制促进经验交流。在文明多样性问题上，Buzatu认为AI模型有助于保存文化资源，类似《世界人权宣言》，各国可根据本国文化背景诠释共同原则，无需强求一致，但关键是将国际标准切实转化为技术实践，避免开发者仅关注技术可行性而忽视伦理适配。针对制度障碍，她呼吁增加参与方，避免两极分化，在尊重各国文化差异的同时，对共同的核心风险必须协作应对，以多极格局取代“我们最优”的优越心态，从而真正实现包容性治理。

Christoph Stückelberger首先揭示了AI发展高度依赖能源和关键矿产，而这些资源集中在刚果（金）等地，矿工因土地被剥夺而引发的社会冲突表明AI背后存在严重的地缘资源不公，需整合社会科学与伦理学来平衡发展。同时，巨额AI投资与多国削减医疗、教育、农业预算形成鲜明对比，引发财政伦理的深刻质疑。在文明多样性问题上，他肯定人类拥有共同普世价值，但文化差异客观存在，关键在于相互尊重与谦逊，反对“我们最优”的民族主义优越感，拒绝强加统一价值观。针对制度障碍，他指出信任危机根源来自媒体被资本控制助推两极分化、选举缺乏独立专家和腐败侵蚀制度公信力，并提出重建信任须从保障媒体中立性、选举公正性和反腐败入手。

王宁认为文明多样性并非治理的障碍，而是促进对话、相互学习与谦逊尊重的积极力量。在此基础上，她提出了“伦理互操作性”概念，即在达成基本共识的前提下，允许各国根据自身文化、历史和政治视角来丰富具体内涵。伦理学必须前置嵌入技术设计，而不是事后补救，并呼吁国际社会认真倾听弱势群体的真实关切，将其转化为具体的工程实践。此外，王宁教授进一步指出，全球AI治理还面临三重结构性障碍：先进AI基础设施与基本网络连接之间的巨大鸿沟、全球治理讨论中少数国家主导导致的代表性缺失、以及伦理常被当作事后补救而非设计前置的工程化缺失。她呼吁将AI治理视为类似于气候变化的跨代挑战来审慎决策，并推动从“橱窗装饰”式咨询向真正有意义的多方参与转变。

柳嘉琪分享了企业负责任人工智能建设实践与行业治理思考。柳嘉琪详细介绍了企业确立公平、透明、安全等六大负责任人工智能核心原则并落地产品服务全流程，推进两类PIS构建管理系统研发，以工程技术创新反哺行业标准与共识制定的最佳实践。同时，他也指出人工智能安全与治理的代码落地存在诸多现实挑战，现有国际标准化组织搭建的开发部署管理体系仅覆盖约两成行业场景，尚处于起步阶段。柳嘉琪还强调，人工智能安全治理并非毫无历史经验可以借鉴的全新命题，传统软件领域的大量共性难题在人工智能场景中同样存在，传统软硬件机构在细分领域具有广阔探索空间。应对人工智能治理的系统性挑战，既需要持续深耕技术测试、理论体系与实践方法，沉淀行业最佳实践，也需要政府、产业、学术与标准化机构多方协同，持续加大资源投入。柳嘉琪特别指出，国际协作是构建全球人工智能安全共识的核心支撑，但当前国际组织的运转节奏难以匹配人工智能技术的快速迭代，全球协同治理的效率仍有很大提升空间。

陈天昊从国际法与大国关系的视角切入，认为主权与全球治理之间的张力源于国际法虽已积累大量公认的基本价值，却缺乏有效的共同执行机制，如何确保各国在开发AI时真正尊重这些共同价值是核心挑战，因此治理重心应置于国际层面的执行机制建设上。在此基础上，他进一步指出，当前国际组织如WTO已明显衰弱，难以在AI治理中发挥显著作用，因此AI的未来很大程度上取决于中美两国政府的实质性合作。他主张两国需首先建立“安全区”或共识框架，而后各自落实国内部署，才能确保AI发展造福全人类。

会议最后，国际人工智能治理协会（IAGA）主席John Higgins教授在总结发言中从科特迪瓦、刚果民主共和国、佛得角等落后国家通过本国球员在国际顶尖联盟效力，最终在本届世界杯中取得良好成绩的案例入手，深刻反思了全球人工智能治理现状，提出应从监管差异、角色分配及分层治理推进全球协作。John Higgins认为各国存在监管哲学的天然差异。英美倾向“先鼓励发展，后加强治理”，法德则主张“先立规矩”。这种差异导致世界各国对欧盟AI法案这一类的监管措施存在巨大分歧，国际合作必须正视并包容这种文化差异。对此，John Higgins提出单靠政府无法实现有效治理，呼吁构建政府、企业、学术界和公民社会共同参与“四螺旋”模型，引入保险与金融资本等市场力量加以规范。他建议将AI的监管与治理明确划分为针对“开发者”和“部署应用者”两个不同的维度，在具体落实上，由顶尖科研机构牵头，为AI底层模型划定严格的安全红线；应用端的标准制定则应依托ISO和ITU等权威国际组织，并在此过程中积极协助技术落后的国家完善关键的基础设施。最后，John Higgins强调人工智能主权的本质即为选择权与发展权。各国有权根据自身价值观，自主决定人工智能技术的