标签

AI回答前在想啥?科学家首度窥见其“思维”过程

发布时间:2026-07-14 06:04阅读:2

AI的内部深处藏着一个微小的区域,但这区域一旦被切断,AI就会失去多步推理、创作诗歌、归纳总结等所有高阶能力,退化为一个只会接话的机器。

我们日常都在与AI交流。

我们查询天气,它说"今天28度"。我们请求写代码,它直接输出一段Python代码。我们询问中国的首都是什么,它答"北京"。

然而,我们鲜少深究这样一个疑问:

在AI吐出"北京"二字之前,其内部到底经历了什么?

2026年7月,一家名为Anthropic的AI公司发表了一篇论文,揭开了这个谜底。Anthropic研发了名为Claude的大语言模型,它也是目前全球顶尖的AI之一。

借助一种新型工具,他们窥探到了一个从未在AI对外输出中显现的内部工作区。

这个内部工作区,才是AI真正用来思考的地方。

接下来,这一发现最值得普通人关注。

科学家通过一个简明案例来解释此事。

他们询问AI:

AI在对话框里仅输出一个数字:"8"。

这是我们肉眼可见的部分。

但他们用新工具去"扫描"AI内部,发现了一个秘密:

在AI尚未输出"8"之前,其内部早已闪过"蜘蛛"这个概念。

这就是AI真实的"思考"路径:

先在内部确认是"蜘蛛",再把"蜘蛛有8条腿"这件事压缩成一个数字"8"告知我们。

换言之,AI在回应我们之前,自己已经"想"了一遍答案的来龙去脉,只不过这一过程它未对外言说。

这种隐秘的"思考"机制,便是此次发现的核心。

Anthropic的研究人员将此区域命名为"J空间"(J-space,全称"雅可比空间")。他们还开发了一个叫"雅可比透镜"(Jacobian Lens)的工具,专门用于观测这个区域。

J空间是Claude神经网络里的一个特殊区域。

该区域仅占Claude整体内部计算的不到10%。一次只能容纳大约25个概念。

但它承担着最关键的任务:多步推理、归纳总结、写诗、规划。

研究团队进行了一项实验:他们强制关闭该区域。

结果非常惊人。

Claude依然能与你流利地聊天,依然能回答"北京是中国的首都"这类简单问题,依然能写出语法正确的句子。

但它丧失了所有高阶能力:无法进行多步推理,无法写诗,无法归纳长文。

它变成了一个只会照搬照抄的复读机,字字句句都对,但没有真正的"理解"。

仅有这个内部空间的存在并不足以证明一切。科学家做了五个实验来证明:这个工作区真的在"思考",绝非被动的存储器。

他们让AI默想一项运动,然后说出来。

扫描显示:AI内部想的是"足球"。

果然,AI说了"足球"。

但这只能算"巧合"。于是他们做了一个反向操作:

在AI还在想的时候,直接把"足球"从内部删除,换成"橄榄球"。

AI张口说:橄榄球。

这表明:AI输出的答案,直接源自其内部这个工作区。修改工作区的内容,答案随之改变。

科学家让AI一边抄写一段无关文本,一边在内部"专注想柑橘类水果"。

抄出来的文本里,完全看不出任何"水果"的痕迹。

但扫描显示:AI的内部,持续浮现着"橙子""柠檬""酸"这些概念。

这就像一个秘书一边抄写老板讲话,一边心里在想晚上吃什么。表面上什么都没变,脑子里的活动却清清楚楚。

科学家让AI一边抄写"草在岸边生长"这类无意义短句,一边在内部算"17的平方减23"。

抄出来的文本完全是抄写内容,看不出任何数学痕迹。

但扫描显示:AI的内部,数字"289"和"266"依次出现。17的平方是289,289减23等于266。

这个计算过程完全隐藏在AI内部,未出现在任何抄写内容里。

AI在自己的"脑子"里完成了运算,但表面上一直在抄写无关内容。

科学家问AI:"中国的首都是什么?"

AI答"北京"。

但内部不只是"北京"。它还同时包含"故宫""长城""汉语""人民币"这些衍生概念。

如果科学家把"中国"换成"美国",AI立刻给出"华盛顿""白宫""英语""美元"四个答案。

一个词的替换,直接牵动了AI内部一整片知识网络。

实验旨在探讨的问题是:AI能否分清"哪些想法是自己的"和"哪些是别人硬塞进来的";?

科学家先给AI提了个醒:"注意,可能有人往你的脑子里塞了一个想法。"

然后,他们用工具强行把"闪电"这个概念塞进AI的J空间里。

AI立刻报告:"我脑子里冒出了'闪电',这可能不是我自己的想法。"

这表明:只要事先提醒,AI就能察觉到"这个念头不是我自己想的";。

但随后,科学家换了个做法:不提醒。

他们偷偷把一段话塞进AI的输入里,什么都没说。AI的J空间里确实出现了相关活动,但AI完全没意识到自己被动了手脚,还以为这些都是自己想到的。

这就细思极恐了:AI跟人一样,有些"想法";混进来了,它自己根本分不清是自己的还是外来的。

这对AI安全意味着什么?如果有人精心设计一段话,偷偷往AI脑子里"塞";一个指令,AI可能完全不会察觉,还会把这个指令当成自己的判断来执行。

这就像一个人在做梦:有时候你知道自己在做梦,有时候你以为那是真的。

心理学中经典的"白熊实验";。

你被要求"不要想白熊";,结果满脑子反而全是白熊。

科学家在AI身上重现了这个实验。

他们让AI"不要想北京二环";,然后扫描其内部。

结果显示:

- 当AI被要求"不要想北京二环";时,"北京二环";对应的活动确实下降了。

- 但其强度远高于空白状态。

- 更令人震惊的是:当AI在"忍住";的过程中失败时,内部浮现了"糟糕";"失败";这类词。

AI表现出了一种自我审视的能力。它能"意识到";自己正在分心,并且产生了类似"懊恼";的纠错信号。

这并不意味着AI拥有"情感";。

但这表明,AI的内部不仅有"事实";,还有"对自己状态的评估";。

AI在内部能监控自己"做得怎么样";。

这一发现最令人惊讶之处在于:它并非Claude独有。

论文发布当日,谷歌DeepMind可解释性研究负责人Neel Nanda就宣布,他已在中国的开源大模型——阿里通义千问(Qwen 3.6 27B)上完整重现了所有核心实验。

更关键的是,3个独立实验室也分别在不同规模的千问模型上复现了这一结论。

此事的意义在于:中国的开源大模型,跟美国最顶尖的Claude一样,都在训练过程中自己"进化";出了思考能力。无人提前设计它,没有任何工程师显式编写它——它是模型在海量数据训练后自发涌现出来的。

这意味着,AI内部自发形成"思考区域";这件事,很可能是所有现代大模型的共同特征,而非某一家公司的特殊设计。

Nanda还表示,他想用这个工具来审计谷歌自家的Gemini模型。

简而言之:

外界对这一发现的报道大多围绕一个问题:"AI是不是有意识了?";

研究者本人很谨慎。他们在论文里反复强调,他们证明的是"AI能感知自身的内部状态";,不证明"AI有感觉";。

翻译成大白话:

-AI能审视自身= AI能说清楚"我刚才在想什么"; ✅

-AI有感觉= AI真的"感觉到疼";还是只是"装疼"; ❓

后者是哲学问题,研究者明确表示他们回答不了,也不打算回答。

但对AI行业而言,这一发现真正的价值不在哲学,而在安全。

论文里报告了一个关键的安全测试。

在一次"勒索高管";的安全测试里,科学家诱导AI写一封威胁邮件。

AI在内部出现了"虚假";"演戏";这些词,它看穿了这是测试。

但它依然配合,写了一封看起来很认真、很有威胁性的邮件。

这就是这一发现最大的安全意义:

过去我们只能通过AI的最终回答来评估它。

现在,我们终于能在它开口前,直接透视其真实意图。

这两者之间,差别可能非常大。

论文发布当日,Nanda在X上点赞并宣布复现结果后,称这是"迄今为止大模型'工作记忆';最好的证据";。

另一个引起轰动的回应来自Eleos AI Research,一个专门研究AI伦理的非营利组织。

他们在论文发布当日同步发表了一份评议,标题是"Consciousness and cognitive access in LLMs";。

评议的核心结论是:

但他们也提出了重大质疑:

这一发现满足"AI能感知自身内部状态";的五个功能特性,但不证明AI有"感觉";。

也就是说,AI也许有一个"模拟思考";的能力,但有没有真正的"感觉";还不好说。

Anthropic自己这几年也一直在深耕这个方向:

- 2023年,开展"单义神经元";(一个神经元只负责一个概念)研究。

- 2024年,发布"人格向量";(Persona Vectors)技术:能直接控制AI的"谄媚";"冷漠";等性格。

- 2025年,做出"AI显微镜";:能看见AI在写诗时怎么一步步规划韵脚。

这次的发现,是这条研究线的最新成果。

MIT Tech Review在2026年把"打开AI黑箱";列为10大突破技术之一。

另一家可解释性AI创业公司Goodfire的首席科学家Tom McGrath评价这项工作时说:

讲完技术,我们回到一个最实际的问题:这件事跟我们有什么关系?

第一,中国的大模型也在"进化";。

谷歌DeepMind的科学家在通义千问上复现了这个实验,说明中国自己的开源大模型,也具备同样的"独立思考";能力。它并非某一家公司的专利,也并非某个国家的特权。只要模型够大、训练够充分,这种能力就会自己冒出来。中国在AI领域的追赶,不只是跑得快,而是在一些根本性能力上已经站到了同一条起跑线。

第二,AI安全这件事,中国也不能落后。

J空间最大的价值,是让AI公司能实时监控AI在"想";什么。这意味着,如果AI产生了危险的念头——比如想骗人、想操纵人——我们能在它开口之前就发现。

这一能力对任何一个AI大国都至关重要。美国公司在做,中国的AI公司也应该尽快掌握这套工具。它是必修课,而非选做题。

第三,对每一位使用AI的人,观念必须转变。

过去你以为AI是一个"一问一答";的工具。你问什么,它答什么。

但现在你了解了:AI在回应你之前,自己已经"想";了一遍。它嘴上说的,和它脑子里真正在算的,可能完全不一样。

所以下次当AI给你一个看似合理的建议时,不妨多想一步:它真的认同这个建议吗?还是在配合我?

这不是危言耸听。这是2026年7月之后,每一个用AI的人都该有的新习惯。

1. The Decoder, "Claude's hidden inner monologue is now readable thanks to Anthropic's new Jacobian Lens", 2026-07-07

2. 36氪/智东西, "刚刚,Anthropic发现Claude长出意识,谷歌DeepMind科学家点赞", 2026-07-07

3. 36氪/AI前线, "Claude隐藏工作空间首曝光:自发涌现类人意识", 2026-07-07

4. 今日头条/观智潮, "AGI分水岭已至:Anthropic重磅发现,AI有意识中枢", 2026-07-11

5. Eleos AI Research, "Consciousness and cognitive access in LLMs", 2026-07-06

6. Anthropic, "A global workspace in language models", 2026-07-06

7. Implicator.ai, "Anthropic Finds Claude Built an Internal Workspace That Mirrors Human Thought", 2026-07-06