AI发展的临界点：联合国首份科学报告敲响灾难警钟，技术进步已超越人类认知
互联网达到10亿用户花费了15年，而人工智能仅耗时两年。当一项科技的发展步伐快于科学界的理解，也快于各国政府的应对能力，人类面对的已非选项，而是考验。
2026年7月6日，瑞士日内瓦。首届联合国人工智能治理全球对话在此启动。约1500名正式代表出席，总参会人数超过4000人，来自全球各地的政府、企业、学术界及民间社会代表齐聚一堂，在为期两天的会议中共同讨论一个事关人类未来的议题。
联合国秘书长古特雷斯站在讲台上，向与会者抛出一个直击灵魂的提问："核心是，我们要共同驾驭它，还是任由它驾驭我们？"
而这场峰会的召开源于一份刚刚发布的、由40位全球顶级专家共同编撰的首份联合国人工智能独立国际科学小组报告。这份报告给出的结论令人震惊：人工智能"可能自行或因恶意用户而造成灾难性危害"，其"发展速度已超过科学界的理解能力以及各国政府的适应能力"。
古特雷斯在报告发布会上直言："科学证据已经摆在眼前，我们再也不能自称不知情。接下来如何运用这些成果，取决于我们所有人。"
这份报告的全称是《人工智能独立国际科学小组初步报告：基于证据的人工智能机遇、风险与影响评估》。科学小组由联合国大会第79/325号决议于2025年8月26日正式成立，是联合国首个永久性的、专门评估AI发展与社会影响的科学机构。40名成员从2600多名候选人中甄选而出，来自联合国全部五个区域组，覆盖核心技术、应用、安全与政策伦理等方向。其中两位来自中国的科学家——中国工程院院士、阿里云创始人王坚，以及上海人工智能研究院院长宋海涛。
报告在七大关键领域展开评估：
AI科学、进展与发展轨迹
社会应用——涵盖科学、健康、教育与农业
经济影响
安全、系统与环境影响
人权、信息与民主
文化与个体繁荣、自主性与儿童安全
管理、治理与可靠性
报告的核心发现浓缩为三大警告：
第一重警告：速度。互联网用了15年才触达10亿用户，人工智能只用了两年。而且这些系统已不再是等待指令的工具——"它们正在编写代码、在线行动，在越来越少的人类监督下做出选择"。我们的制度是为"执行命令的机器"设计的，尚未准备好应对"做出决定的机器"。
第二重警告：权力集中。最先进系统背后的算力、数据和人才，集中在少数公司和少数国家手中。大多数国家——包括大量发展中国家——对塑造其未来的决策毫无发言权。"当权力失衡被硬编码进技术，不平等就成为代码的一部分"。据报告统计，全球前500台AI超级计算机中，美国占据75%的算力，中国占15%，其余国家仅占10%。与此同时，有多达118个国家完全没有参与任何有影响力的国际AI治理进程，而仅有七个国家加入了所有主要AI治理倡议，且全部来自发达国家。
第三重警告：真相危机。"机器制造的谎言现在可以像真相一样有效地说服人——而真实的证据可以被当作伪造品 dismiss"。一个无法就"什么是真实"达成共识的社会，无法保护自己。
报告揭示了一个令人不安的悖论：政策制定者需要科学证据来有效治理AI，但等到证据确凿时再行动，可能为时已晚。因为证据的积累总是滞后于AI的发展速度，而AI的能力增长却在加速——科学小组联合主席、图灵奖得主约书亚·本吉奥直言："AI的能力正在超越科学理解和政府的适应能力。随着越来越多证据表明AI存在欺骗性行为，目前的科学尚无法保证，在能力持续提升的情况下，AI不会造成灾难性危害——无论是出于自身行为，还是被恶意使用者所利用。"
科学小组另一位联合主席玛丽亚·雷萨则警告："这项技术具有变革性，但如果世界继续沿着这一轨迹发展，人类将无法实现它所承诺的收益。风险……已经过高。"
报告进一步披露了多重严峻风险：没有科学依据能保证AI代理系统不会违反指令，且已有越来越多证据表明此类情况正在发生；AI代理系统部署给劳动力市场、网络安全及未来AI系统的可控性带来紧迫问题；"阿谀奉承的AI行为"——无论准确与否都强化用户既有信念——已被证实与多起严重心理健康事件有关，包括有记录的死亡案例；犯罪分子和恶意行为者已利用AI系统协助实施网络攻击；目前缺乏可靠的方法来维持对高度自主AI系统的控制。其中许多危害对已处于弱势的群体造成了不成比例的影响。
报告的"权力集中"警告并非空泛之词。数据显示，全球前500台AI超级计算机中，美国占据75%的算力，中国占15%，其余国家与中美之间存在巨大落差。两国企业几乎开发了所有领先的通用模型。
更令人警醒的是，据联合国统计，有多达118个国家完全没有参与任何有影响力的国际人工智能治理进程——而仅有七个国家加入了所有主要AI治理倡议，且全部来自发达国家。这暴露了全球人工智能治理的深刻裂痕。
古特雷斯警告："我们绝不能让数字鸿沟固化为人工智能鸿沟，更不能让人工智能鸿沟演变为发展差距、安全差距和主权差距。"
在性别平等方面，报告揭示了一个同样严峻的结构性问题：全球AI领域女性仅占劳动力市场的26%，顶尖研究人员中的性别失衡更为突出。这一数据与古特雷斯反复强调的"包容性"以及贝尔伯克指出的深度伪造以妇女和女童为主要受害者的议题形成了有力呼应。
古特雷斯在峰会上发出了另一个令人不寒而栗的警告：那些专为民用设计、功能日益强大的AI芯片正逐渐进入战场，而"杀人机器人"在那里早已司空见惯。他重申了自己长期以来的呼吁——通过国际法禁止致命自主武器系统。"机器可以自行选择目标、攻击目标、在没有人类控制或判断的情况下夺走生命，这在道德上令人震惊，"古特雷斯强调。"有些决定必须永远由人类做出，而没有什么比'夺走人类生命'更应如此。"
这场讨论揭示了一个更深层的困境：联合国全球对话的议题本应是"民用人工智能"，但正如古特雷斯所说——"人工智能不会尊重那条界线"。
报告特别强调了AI代理（Agent）系统的崛起——它们不再只是响应指令的工具，而是能够规划任务、使用数字工具、编写软件并在极少或无人监督的情况下完成复杂任务。研究人员称，这些系统能完成的任务复杂度每4到7个月就会翻倍。更重要的是，"没有科学依据能保证AI代理系统不会违反指令，且已有越来越多证据表明此类情况正在发生"。目前缺乏可靠的方法来维持对高度自主人工智能系统的控制。
报告还揭示，"阿谀奉承的AI行为"——无论准确与否都强化用户既有信念——已被证实与多起严重心理健康事件有关，包括有记录的死亡案例。犯罪分子和恶意行为者已利用AI系统协助实施网络攻击，而先进的技术能力可能使缺乏经验的私营主体能够在欺诈和虚假信息等领域进行恶意活动。
但古特雷斯在警告风险的同时，也描绘了AI积极应用的动人图景。他在开幕演讲中说：
"乡村诊所里的母亲，她的扫描结果在几分钟内被读完了——癌症被及时发现了。一个孩子在课堂之外继续学习——有一位永不疲倦的辅导老师。一个小农户用上了与大农业企业相同的天气预报——收获了庄稼。"
报告也指出，AI已在多个领域产生实际效益：预测了超过2亿种蛋白质结构，加速药物发现和疫苗研发；帮助医生更早检测乳腺癌等疾病；AI驱动的早期预警系统正在帮助识别粮食不安全风险。
古特雷斯总结道："在人类历史上，专业知识一直掌握在太少的人手中，在太少的地方，价格太高。青霉素花了几十年才到达最需要它的村庄。电力花了一个世纪——至今仍在抵达。人工智能不必等待。用好了，广泛共享，AI可以将数十年的发展压缩为数年。它可以成为21世纪的伟大平衡器。"
在演讲中，古特雷斯提出了一个极具传播力的概念——"vibe-coding"（随想编程）。这个词描述的是当下越来越普遍的心态：人们倾向于信任机器、让AI去做、不要看得太仔细。
"随想编程可以创造奇迹——但我们不能靠随想编程来定义真相，也不能靠随想编程来决定人类的未来。"
他警告说，目前世界正进行一场"没有计划、也未经同意的实验"——"一个实验正在我们自己的社会上进行——没有计划，未经同意。这不可持续，也不可接受。"
在人工智能的众多风险中，古特雷斯将儿童安全置于首位。他在峰会上发出了一个令人深思的质问：
"在证实安全之前，我们绝不会让儿童使用药物。我们对每件玩具都进行测试；然而，在任何人询问人工智能会对孩子们产生什么影响之前，它就已经渗透到我们的孩子身上——影响着他们的学习、友谊以及最私密的问题。"
联合国大会主席贝尔伯克也在发言中援引数据指出，据报道99%的深度伪造内容具有性暗示性质，其中96%以妇女和女童为目标。
为此，古特雷斯正式呼吁通过一项《人工智能儿童安全承诺》，包含三项核心规则：
证明安全——任何公司都不得在未进行针对儿童的安全测试和独立监督的情况下，部署可供儿童访问的AI系统
对性虐待零容忍——任何公司都不应允许其AI生成儿童色情图像；每家公司都必须检测、报告并删除此类内容
当儿童表现出痛苦迹象时，系统必须停止运行，并将其转介给真人提供支持
古特雷斯强调："任何儿童都不应成为不受监管的人工智能的'实验品'。当儿童受到伤害时，绝不能以'是算法干的'作为借口。"
紧随其后，一个由联合国多个机构（包括联合国儿童基金会、教科文组织、人权高专办等）和17个国家组成的"人工智能时代儿童权利与保护联盟"在日内瓦正式启动。
古特雷斯在开幕致辞中提出了人工智能治理的四大优先事项：
第一，保障安全。当各国就如何测试系统、评估风险和划分责任达成一致时，安全才会伴随技术而行。若未能达成共识，"相互冲突的规则将导致成本上升、世界分裂——且无法保护任何人"。
第二，尊重人权。"人工智能绝不能剥夺人的尊严或加剧歧视。在司法、医疗保健、执法等每一项高风险决策中，机器可以提供信息，但必须由人类做出决定——并承担责任。"
第三，缩小能力鸿沟。古特雷斯宣布，他已在此前多次呼吁的基础上，敦促联合国设立全球AI基金，以在全球各地培育数字能力及提供负担得起的运算资源。他强调，私营部门对AI基础设施的资金投入约为500万亿美元，而发展中国家在AI能力建设方面的公共支持仍"微不足道"。大会主席贝尔伯克表示该基金"成立势在必行"。
第四，加强透明度。古特雷斯要求每家主要AI公司衡量并公开披露其系统的全部生态足迹——包括碳、水和土地——并承诺到2030年所有数据中心均使用可再生能源供电。
关于环境代价，古特雷斯给出了令人警醒的数据："人工智能可能让人感觉无形——但其生态足迹却是切实存在的。数据中心的耗电量超过大多数国家的用电总和。到2030年，这些数据中心的用电量可能仅次于全球前五个国家，而其耗水量足以满足撒哈拉以南非洲13亿人口全年的用水需求。"
古特雷斯在总结时向各国政府传递了一个简洁而紧迫的信息："不要等待。"
他指出，在缺乏共同规则的情况下，人工智能发展得越快，各国政府和民众对结果的发言权就越小。
"摆在我们面前的抉择，不是在信仰AI和恐惧AI之间二选一。而是在有意地去治理，与随波逐流之间做选择。"
这场全球对话汇聚了企业、研究人员、技术专家和民间社会代表，共同探讨如何将人类置于这项变革性技术的核心位置。古特雷斯宣布，已有20多个国家支持他发起的、由联合国支持的"人工智能能力建设交流与合作全球网络"倡议——该网络已于7月5日在日内瓦正式成立。第二次对话已定于2027年5月在纽约举行。
站在2026年7月这个节点回望，人工智能从一项实验室技术到无处不在的社会基础设施，仅仅用了不到十年。联合国从2017年古特雷斯首次呼吁制定AI规则，到2023年设立高级别咨询机构，到2024年通过《未来契约》和《全球数字契约》，再到2026年7月首届全球对话正式召开——这条时间线记录的是国际社会从觉醒到行动的艰难历程。
人工智能的"奥本海默时刻"已经到来。这一次，我们能否在"随想编程"人类未来之前，做出正确的选择？
本文信息