构建前沿AI体系，迎接崭新时代的来临
编者按：本文作者戴密斯·哈萨比斯（Demis Hassabis）是谷歌 DeepMind 联合创始人兼首席执行官、2024 年诺贝尔化学奖得主。原文《A Framework for Frontier AI and the Dawning of a New Age》发表于其 X 账号 @demishassabis。
我们正处在人类发展史上的一个关键节点。通用人工智能（AGI）——一种能够涵盖大脑全部认知功能的系统——极有可能在短短数年内变为现实。当我们站在未来数十年的起点回望当下时，我相信我们会清晰地意识到，自己曾经在"奇点"的山脚下驻足——这无疑是一场文明新纪元的破晓之光。
我毕生都在投身AGI研究，因为我深信，只要以负责任的方式开发与部署，它将成为人类历史上最具价值、最具颠覆性的技术之一。AGI的深远意义远超一般的技术创新，甚至不能与互联网、移动通信等划时代变革同日而语——它更接近于电或火这类基础性发现。试想一下，我们实际上已经掌握了让硅石（芯片）进行思考的本领。这本身就是一个奇迹。
该技术的影响力将达到史无前例的高度，或许相当于工业革命的10倍规模、10倍速率。它将协助我们攻克社会最棘手的难题——从大幅缩短药物研发周期，到开发新型清洁能源，再到合成前所未有的高端材料。我们甚至有望踏入这样一个时代：资源不再是制约人类发展的天花板，从而开启一个令人惊叹的丰裕纪元。
人工智能已经在现实层面创造了可观的收益，但要充分释放它的潜能，我们必须在当前这个关键的发展窗口保持审慎与克制。随着我们一步步逼近AGI，必须立刻着手应对可能浮现的隐患。我们已目睹前沿模型对网络空间构成的威胁，而随着能力的不断攀升，包括核威胁、生物威胁在内的其他风险也可能接踵而至。放眼未来，我们需要构筑坚实的安全屏障，以维系对那些日益自主、能够递归自我迭代的系统的掌控——并妥善处理那些只有随着时间推移才会逐步显现的不确定因素。
我始终坚信人类的智慧与创造力足以攻克一切难题。我相信，只要我们给自己留出充足的时间与空间去妥善走好这关键的下一步，化解AI相关的技术风险就是我们能够携手攻克的任务。但时至今日，无论作为一个学科领域还是作为一个社会整体，我们都尚未达成这一目标。
当前，我们正身陷一场异常激烈、多维交织的商业与地缘博弈之中。尽管这些竞争态势推动了技术的高速演进，加速了这项技术所蕴含的巨大红利，但前沿领域的突破已经超出了我们对这项技术的认知节奏。放眼全球，没有人能预判下一步棋的走向，即便是资深专家之间也莫衷一是。当不确定性如此巨大、风险如此深远之时，以审慎而乐观的姿态稳步前行才是明智之举。这需要有这样一种公共政策：既激励创新，又倡导责任与安全；既围绕重大安全议题推动国际协作，又引导人们深思AI应以何种方式服务于社会福祉。
我们目前在AI领域所见证的高速演进，迫切呼唤一种全新的方法来评估前沿AI模型的性能——这种方法应当是灵活的、可调的、严密的。鉴于美国在经济与技术上的独特地位，它具备率先建立这一框架的天然优势。美国可以设立一个新的标准机构，参照由联邦监管的公私合作伙伴关系模式或自律组织模式（类似于美国金融业监管局FINRA），其理事会成员应囊括独立的顶尖技术专家和开源界代表。资金投入需要相当规模，且很可能主要依赖产业界出资，这样才能汇聚世界级的技术人才，并为大规模测试提供必需的算力资源。
该标准机构将负责拟定评估规程，并与相关联邦机构及美国国家实验室携手，在涉及国家安全的领域开展测评。一旦某个模型在标准机构设定的若干基准测试中达到特定门槛——且这些基准会定期迭代以匹配AI能力的演进——它即被认定为"前沿级"模型。拥有符合这些基准定义的"前沿模型"的机构将被视为"前沿实验室"，并被倡导采纳最佳实践，例如发布包含技术细节的模型卡片、维持强有力的内部网络安全、对关键岗位人员进行审查、为安全与保障研究提供充足资源等等。
起步阶段，前沿实验室可以自愿在模型发布前最多30天将模型提交给标准机构审核。一旦该评估规程被验证为有效且稳健，制度化进程便可迅速跟进——也就是说，前沿模型将被强制要求必须通过该评估规程才能在美国市场部署。各实验室也将与标准机构协作，解决发布后出现的任何重大安全漏洞。
模型评估应涵盖对网络安全、生物威胁及其他高风险领域能力的严谨科学测评。针对具备自主行动能力的AI，专项测试可以专门检测其是否存在试图规避安全防线或显露欺骗迹象的行为，并确保落实相关最佳实践，例如为AI生成的图像添加数字水印、生成人类可读的输出token以理解模型的推理过程。
这些评估应当定期迭代，起步阶段或许可以每季度更新一次，过时或已经"饱和"（即模型普遍能轻易通过）的基准测试应被剔除并替换。初期，这些基准将与前沿实验室协商敲定，但标准机构最终应当建立起独立于各实验室的技术能力，自行创建"留存"测试集，以防止模型针对已知基准进行过度优化。该机构还可以与美国政府合作，推动建立第三方审计生态系统，协助开展评估工作并开发新的基准与测评方法。
这一方案的优势在于，它以技术为核心导向，同时也支持创新并激励负责任的行为。它旨在跟上该领域的加速发展步伐，并在最大的风险被识别出来时随之调整——如果形势的严重性有此需要，甚至可以逐步收紧，包括在必要时协调前沿实验室放缓开发速度。被认定为"前沿实验室"将带来相当的声誉，且只要某机构构建的模型符合基准标准，任何机构都可以申请获得这一认定。该框架可以适用于所有前沿级模型，无论其