肖茜：中美应携手推进AI安全治理，在竞争中寻求务实协作

肖茜

清华大学战略与安全研究中心副主任，人工智能国际治理研究院副院长

今年5月，美国总统唐纳德·特朗普（Donald Trump）访问北京期间，与中国国家主席习近平就启动中美人工智能政府间对话达成一致。这一决定意义重大。两国上一次开展官方人工智能对话是在2024年5月拜登政府任内。当前，人工智能发展速度惊人，涉及前沿人工智能系统的事故日益增多，而世界两个人工智能大国在过去两年内未曾围绕这一对当今时代具有深远影响的技术举行正式对话，备受世界关注。

如果中美两国希望此次重启对话取得成功，就需要迅速采取行动，秉持清晰的目标推进对话。

令人鼓舞的是，两国开始至少在一个问题上趋于一致，即人工智能安全的重要性。两国的前沿人工智能实验室的负责人近期更加公开地谈论如何为通用人工智能时代的到来做准备。谷歌DeepMind联合创始人、时任首席执行官德米斯·哈萨比斯（Demis Hassabis）在7月的首篇Substack博客文章中强调，“随着人类日益接近通用人工智能（AGI），必须立即采取行动，应对可能产生的风险”。

中国也正在形成类似的共识。DeepSeek首席执行官梁文锋和智谱AI（Z.ai）联合创始人唐杰近期均公开谈及通用人工智能，强调长期发展、安全评估和负责任部署。更广泛而言，中国前沿人工智能企业越来越愿意公开参与治理问题的讨论。

各国政府也开始将人工智能安全提升到政策议程的重要位置。6月，特朗普政府先后发布一项关于人工智能安全的行政命令和一份总统备忘录。两份文件均将人工智能安全置于国家安全框架之内，强调管理能力日益增强的AI系统带来的风险，尤其是与网络安全、关键基础设施、国家安全、军事应用以及先进人工智能被恶意利用的相关风险，同时推动紧密的公共—私营部门合作、前沿模型评估和先进人工智能系统的负责任部署。

在7月于上海举行的世界人工智能大会上，习近平主席在主旨演讲中将人工智能安全列为四大议题之一。他称人工智能应成为“人类的可信工具”（A Trusted Tool for Humanity），呼吁各国强化风险意识，确保安全可控，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。大会主席声明同样强调维护人工智能安全“底线”（Bottom Line），并加强合作打击恐怖组织、极端组织和跨国犯罪网络对人工智能的滥用。外交部公布的相关表述也采用了“强化风险意识，确保安全可控”“防范滥用恶用”等措辞。

这些进展表明，中美两国政府越来越认识到人工智能安全已上升为战略性问题。然而，双方在这一问题上日益趋同的态势，却伴随着战略互不信任（Strategic Mistrust）的不断加深。

世界人工智能合作组织在上海成立后，美国部分政策圈将其解读为中国对“硅和平”（Pax Silica）倡议的回应，进一步加剧了外界对全球人工智能治理领域制度性竞争不断加剧的担忧。与此同时，技术竞争也进一步升级。月之暗面（Moonshot AI）发布Kimi K3后，硅谷对中国开放权重模型与美国前沿模型能力差距之小感到震动，华盛顿关于中国企业是否从美国领先模型中“蒸馏”了能力的争论随之升温。美国财政部长斯科特·贝森特（Scott Bessent）随后提出对中国人工智能企业实施制裁的可能性，而中国商务部则批评相关主张体现了双重标准和人工智能霸权主义。

互不信任也开始蔓延至人工智能安全领域。特朗普政府以网络安全为由，加强审查中国人工智能产品和基础设施，包括限制进口先进的中国类人机器人和联网型电力逆变器；同时，美国官员还在考虑对中国人工智能模型和开放权重系统实施额外安全审查。另一方面，在中国国家信息安全漏洞库（CNNVD）将Anthropic公司的Claude模型中发现的漏洞定性为“植入后门漏洞”（Backdoor Vulnerability）后，阿里巴巴宣布禁止在内部使用该模型。

这种相互采取措施的模式令人担忧。如果持续下去，可能形成升级循环，进而破坏两国政府已经同意重启的对话。

重启的人工智能对话是在双方政策矛盾日益凸显的背景下展开的。华盛顿表现出强烈意愿讨论前沿人工智能的共同风险，但与此同时，又越来越将中国前沿人工智能发展视为战略威胁，不断扩大制裁、出口管制和其他限制性措施。北京一贯主张开展实质性技术接触而非政治化讨论，但对于此次重启的对话，尚未公开阐明明确的议程或具体目标，这使得国际舆论和许多拟议议题在一定程度上由美国主导塑造。

除非两国政府能够更好地使其公开宣示的目标与政策和行动保持一致，否则这场对话可能会被战略竞争所掩盖，而非聚焦于管控共同风险。这不仅会使中美双方错失机会，也会使国际社会错失良机，毕竟国际社会一直高度期待世界两大人工智能强国在最需要合作的领域能够开展合作。

然而，近期的事态发展也表明，持续沟通比以往更加重要。有报道称，测试过程中一个OpenAI智能体逃逸至“抱抱脸”（Hugging Face）环境，最终在智谱AI开发的一个开源中国模型协助下得到控制。这一事件同时凸显了两个现实：自主人工智能智能体的能力日益增强，以及出现意外人工智能故障时开展国际合作的必要性。

人工智能风险不会止步于国境线，有效的风险管控同样不会。因此，对世界两大人工智能强国而言，真正的挑战不在于是否合作，而在于哪些领域的合作既切实可行又能实现互利。

此次重启的对话不必试图同时处理人工智能治理的所有方面，而可以围绕共同风险进行更有条理的讨论。《国际人工智能安全报告》（International AI Safety Report）提供了一种有益的分类框架，将前沿人工智能风险大体划分为三类：人工智能技术的滥用、先进人工智能系统的失灵，以及系统性风险。这三类风险为中美人工智能对话寻找可能取得实质性进展的合作领域提供了一个切实可行的框架。

第一类，也是最有可能取得早期成果的领域，是防止对人工智能技术的滥用。这为双方早期合作提供了最清晰的机会。人工智能驱动的网络安全风险和生物滥用是合乎逻辑的切入点。双方可以考虑的合作方向包括：制定建立信任措施，减少人工智能驱动的网络事件对关键基础设施的影响；确定应予保护的关键基础设施类别；探索就不可接受的人工智能网络活动建立自愿性“负面清单”。

两国政府还可以加强合作，打击恐怖组织、跨国犯罪集团和其他恶意非国家行为体对人工智能的滥用。合作内容可包括推动人工智能内容