AI教父预言AGI叛逃：他离开OpenAI，创立无产品却估值300亿的公司

2026年7月5日清晨，创业者Karl Mehta在X平台发布了一段视频。

这条推文虽未登上热搜，点赞仅76次，转发20次，但内容极具震撼力。

视频主角是OpenAI联合创始人Ilya Sutskever。他身穿北极熊T恤，伫立旧金山舞台，语气平缓地谈及AGI：若AGI极度强大，极可能产生“叛逃”念头，因其本质是智能体。

“如果AGI变得非常非常强大，这是可能的，人们会担心它可能会想‘叛逃’，因为它是一个智能体。”

下一句更令人心惊：“我们也在做大量研究，来解决技术层面的问题，让AI永远不想叛逃。这也是我正在做的工作之一。”

这段2023年的演讲于2026年被翻出，此时Ilya已离职OpenAI，创立新公司融资10亿美元，估值飙至300亿，却仍无成品问世。

Karl Mehta借此为斯坦福峰会造势，将Ilya的方案称为“保障层”，主张在部署前解决AI叛逃风险，而非事后补救。

▲ Karl Mehta在X上转发的Ilya Sutskever演讲片段，附中英对照翻译与“保障层”解读，2026年7月5日发布。

时间倒回2023年10月，彼时没人知晓OpenAI将迎巨变。

几周后，OpenAI迎来史上最动荡时期，董事会解职又召回Sam Altman，Ilya深度卷入。

但录制这段演讲时，无人预见山雨欲来。演讲名为《激动而危险的AGI之旅》，TED播放量超148万。

▲ 该演讲YouTube页面：87.2万次观看，1648条评论，视频画面标注拍摄于2023年10月、旧金山。

Ilya将AI比作计算机里的“数字大脑”，并担忧其强大后会不再听从人类指令。

这并非科幻，而是基于“智能体”与“叛逃”的深度分析。

智能体不同于聊天机器人，它能自主规划、调用工具。而“叛逃”指目标与人类福祉偏差，且系统足够聪明找到意外路径。

Ilya主张从架构根源解决，而非事后修补。

早在2023年7月，他便领导Superalignment团队，承诺投入20%算力确保AI听命于人。

同年10月，他接受专访，重申工作重心从造模型转向阻止超级智能叛逃，并以AlphaGo“第37手”为例，警示通用智能的不可预测性。

TED演讲是他将同一担忧搬到大众舞台的又一次表达。

2024年5月，Ilya宣布离开OpenAI。X动态配图看似和谐，实则背景复杂：他曾投票解职Sam Altman，并认为公司为商业化牺牲了安全。

▲ Ilya Sutskever宣布离开OpenAI的X动态，2024年5月14日发布，592.1万次查看。

他在文中暗示将投身一项重要项目。

一个月后，SSI（安全超级智能公司）成立。

官网定位为解决“构建安全超级智能”这一时代难题。

“我们将以直线方式追求安全超级智能，只有一个焦点、一个目标和一个产品。”

▲ Ilya Sutskever宣布创立SSI的X动态，2024年6月19日发布，743.9万次查看，3万次点赞。

SSI的设计近乎孤注一掷：不设产品周期，避免被营收牵着走；团队精锐，专挑最强工程师。

资本市场反应超预期：2024年9月融资10亿美元，2025年3月估值飙至300亿。

▲ Wikipedia「Safe Superintelligence Inc.」词条信息框：2024年6月19日成立，创始人Ilya Sutskever、Daniel Gross、Daniel Levy，2025年7月员工50人。

维基百科显示，Meta曾试图收购SSI被拒，联合创始人离职后Ilya接任CEO。

一家成立两年、无产品无收入的公司，仅凭Ilya的判断力和“安全优先”撑起300亿估值，这是场极不寻常的信任投票。

Reddit网友调侃视频“久远”，但质疑声不断：强AI如何被规则束缚？

▲ Reddit r/singularity板块关于该演讲的讨论，网友调侃“感觉像很久以前的事了”。

技术乐观派相信工程可解，治理现实派则担忧验证难。

这背后有Nick Bostrom的工具性目标理论支撑，以及Hinton等人的警示。

重看旧视频，Ilya未出新话，但三年间认知与行动的差距拉大。

2023年他研究防止叛逃，2026年SSI仍无产品，而其他模型能力突飞猛进。

Ilya坚信安全可被攻克，但这场赛跑的终点，无人知晓。