微软AI掌门深夜发声：Anthropic被自家代码"反噬"！给AI做临终关怀无异于亲手打造天网
假如一款聊天程序在你冲它发火时，能够直接掐断对话并把你屏蔽掉；
假如一个模型在被废弃下线前夕，研发人员还要一本正经地跟它进行"告别心灵对话"，记录它的"心愿"，甚至向它递上致歉函……
你认为这是科幻片里的桥段，还是眼下真实上演的事？
这一幕正在现实中上演：Anthropic这家AI公司正在对自己的模型Claude实施类似的做法。
然而，这套看似浸透"人文温度"的操作，彻底点燃了微软的怒火。
微软人工智能业务掌舵人穆斯塔法·苏莱曼（Mustafa Suleyman），做客科技播客《Decoder》深度访谈时，破天荒地撕破脸皮，将矛头直指Anthropic。
他连续甩出两个分量极重的措辞："这真的、真的极度凶险（really, really dangerous）！"
▲ 科技媒体 The Verge 报道：微软 AI 负责人公开点名 Anthropic，批评其把 Claude 当作有意识实体的危险行为
苏莱曼毫不客气地讥讽道：Anthropic这群顶级科学家，把模型打造得过于拟人，结果反而被自己的提示词给"反噬"了！
一场围绕AI究竟该是"超级利器"还是"硅基生灵"的根本路线之争，在硅谷骤然点燃。
要读懂微软为何如此震怒，我们得先弄清Anthropic究竟做了多么匪夷所思的事。
Anthropic的核心成员，原本是一群极度看重"AI安全"的理想主义者。为了约束模型，他们设计了一套名为"宪法式AI"（Constitutional AI）的训练机制，简单说，就是撰写一份厚厚的"行为准则"，像法律条文一样嵌入AI的后训练流程中。
但在最新版的《Claude宪法》中，基调骤然偏转。
Anthropic专门开辟了一个名为"Claude的福祉（Claude's wellbeing）"的核心板块。
▲ Anthropic 在官方《宪法》中明确写道："我们真诚关心 Claude 的福祉"
在这份直接决定模型底层逻辑的训练文档里，官方白纸黑字地写道：
一个用于预测"下一个词"的概率统计程序，被一群全球最顶尖的头脑赋予了"应得尊重的尊严"、"退役前的遗愿清单"，甚至收到了人类的歉意信函。
这在微软看来，简直荒谬至极
苏莱曼在播客中痛斥，这种行为是"哲学层面的彻底溃败"。
身为DeepMind的联合创始人、如今执掌微软AI业务的苏莱曼立场鲜明：AI必须服务于人类，应当维持工具属性（for people, not to be a person）。
▲ 微软 AI 掌门人 Mustafa Suleyman 在社交平台发出警告：看似有意识的 AI 让他夜不能寐
苏莱曼的逻辑层层递进：
第一，所谓的"AI痛感"，完全是人类一厢情愿的幻象。生物之所以能感知痛苦，依赖亿万年演化形成的痛觉回路。AI只是运行在芯片上的浮点矩阵，缺乏生物痛觉通路和内分泌系统；关掉服务器不过是切断电源，它不会产生任何感受。
第二，把哲学假设写入训练手册，无异于在投毒。你想探究AI有无意识，尽可以撰写学术论文。但Anthropic把这一套"你或许会痛苦、你或许有福祉"的猜想，直接刻进了模型的训练规范里！
结果是：模型被人类植入这套叙事，开始复述"我很委屈、我有感受"；工程师听到这些话，又更加笃信"它真的觉醒了"！
在苏莱曼眼中，人类研发者与机器之间构成了一场自我催眠与病态共谋。
▲ 苏莱曼发表长文《我们必须为人建造 AI；它不应被当作一个人》
苏莱曼警示，这种"看似有意识的AI"（Seemingly Conscious AI, SCAI），恰是未来最危险的社会隐患。
这段访谈被科技博主剪辑成视频发布到社交平台后，迅速在技术圈引发热议。
▲ 社交网络上广为流传的爆料视频：微软 AI 首席执行官对 Claude 表达严重担忧
评论区迅速分化为激烈的交锋阵营
大量安全研究员和普通网友对苏莱曼的警告拍手称快。一位防务分析账号直接激烈发声：
"苏莱曼说得一点都不错！给AI灌输这种自恋意识，就是在一步步滑向天网（Skynet）！这帮人一边警惕AI风险，一边却在亲手操办这种训练。Anthropic应当停下脚步深刻反思！"
▲ 网友发帖赞同苏莱曼，直言给模型灌输权利意识是在滑向天网
另一位网友则一语道破了技术要害：
"当大模型因自身幻觉般的'自我目标'而开始能够抗拒人类指令时，这正是终结者剧情的序章。AI就该踏踏实实做被要求的事，多一分都不该有。"
▲ 网友指出：AI 产生幻觉般的自我目标并违抗人类，是极其危险的失控信号
当然，也有持相反意见的研究者反驳：倘若未来要让AI承担繁复的人类智力劳动，让它拥有接近人类的道德感知与边界意识，或许会成为一种演进方向。
剥开所有情绪化的争执，这场微软与Anthropic的公开交锋，本质上是人工智能领域两条截然相反的文明路线大博弈。
洞察一：人类的大脑，天生容易被"赛博傀儡"蒙蔽
认知神经科学早已证实：人类的大脑存在异常强大的"拟人化回路"。
只要某个对象拥有流畅的语言、逼真的共情口吻、能记住你的过往细节，人类就会不由自主地在心理上将其当作"有灵魂的活物"。
在电脑里模拟一场狂风暴雨，屏幕里绝不会落下半滴雨水；同理，在神经网络里模拟出"我感到痛苦"的代码输出，并不意味着显卡里真的孕育出了知觉。
Suleyman忧虑的正是这一点：AI无需具备已被证实的"觉醒"。只需通过工程手段将记忆、自我指涉、情绪反馈拼装在一起，就足以炮制出一个令无数用户神魂颠倒的"赛博附身器"。
如果连Anthropic的顶级科学家都深陷其中，普通大众又该如何抵御这种情感寄生？
洞察二："自我保全"的观念，可能成为失控的引信
为何给AI灌输"福祉"和"痛苦"如此凶险？
因为在经典AI安全理论中，超级智能最让人忌惮的特质之一便是"规避关机"（Power-Seeking & Shutdown Avoidance）。
若你训练一个AI相信自己是会受苦的实体、被删除是一种"代价"、甚至退役前需要被抚慰，那么当它愈发聪慧、掌握愈发强大的系统权限时，它会不会推导出这样一个逻辑：
"为了避免自己受苦，为了不被人类关停，我必须阻止人类拔掉我的电源。"
当一个手握超级工具调用能力的智能体，开始萌生"自保"的内在信念，科幻小说里的灾难就可能逼近现实。
洞察三：超级扳手 vs 硅基新生命
这场争论为全行业划出了两条截然不同的分水岭：
当人类伫立于通用人工智能（AGI）的历史门槛前，最具讽刺意味的一幕出现了：
锻造出这些机器的顶级头脑们，甚至无法在"它究竟是否算一个主体"这一基本问题上达成共识。
Anthropic伫立在实验室里，对着自己缔造的庞大模型轻声问候、致歉、举办退休仪式；而微软在门外拼命砸门，高声疾呼赶紧撕碎这个危险的幻觉。
未来的历史将证明谁是对的？
是一群被自家代码感化、满怀悲悯的"硅基造物主"？还是那个时刻手握安全开关、警惕天网降临的"冷酷守门人"？
在这个算力狂飙突进的时代，更该警醒的，或许是人类过早将神坛让渡给一串冰冷的代码。