AI回答前在想啥?科学家首度窥见其“思维”过程
AI的内部深处藏着一个微小的区域,但这区域一旦被切断,AI就会失去多步推理、创作诗歌、归纳总结等所有高阶能力,退化为一个只会接话的机器。
我们日常都在与AI交流。
我们查询天气,它说"今天28度"。我们请求写代码,它直接输出一段Python代码。我们询问中国的首都是什么,它答"北京"。
然而,我们鲜少深究这样一个疑问:
在AI吐出"北京"二字之前,其内部到底经历了什么?
2026年7月,一家名为Anthropic的AI公司发表了一篇论文,揭开了这个谜底。Anthropic研发了名为Claude的大语言模型,它也是目前全球顶尖的AI之一。
借助一种新型工具,他们窥探到了一个从未在AI对外输出中显现的内部工作区。
这个内部工作区,才是AI真正用来思考的地方。
接下来,这一发现最值得普通人关注。
科学家通过一个简明案例来解释此事。
他们询问AI:
AI在对话框里仅输出一个数字:"8"。
这是我们肉眼可见的部分。
但他们用新工具去"扫描"AI内部,发现了一个秘密:
在AI尚未输出"8"之前,其内部早已闪过"蜘蛛"这个概念。
这就是AI真实的"思考"路径:
先在内部确认是"蜘蛛",再把"蜘蛛有8条腿"这件事压缩成一个数字"8"告知我们。
换言之,AI在回应我们之前,自己已经"想"了一遍答案的来龙去脉,只不过这一过程它未对外言说。
这种隐秘的"思考"机制,便是此次发现的核心。
Anthropic的研究人员将此区域命名为"J空间"(J-space,全称"雅可比空间")。他们还开发了一个叫"雅可比透镜"(Jacobian Lens)的工具,专门用于观测这个区域。
J空间是Claude神经网络里的一个特殊区域。
该区域仅占Claude整体内部计算的不到10%。一次只能容纳大约25个概念。
但它承担着最关键的任务:多步推理、归纳总结、写诗、规划。
研究团队进行了一项实验:他们强制关闭该区域。
结果非常惊人。
Claude依然能与你流利地聊天,依然能回答"北京是中国的首都"这类简单问题,依然能写出语法正确的句子。
但它丧失了所有高阶能力:无法进行多步推理,无法写诗,无法归纳长文。
它变成了一个只会照搬照抄的复读机,字字句句都对,但没有真正的"理解"。
仅有这个内部空间的存在并不足以证明一切。科学家做了五个实验来证明:这个工作区真的在"思考",绝非被动的存储器。
他们让AI默想一项运动,然后说出来。
扫描显示:AI内部想的是"足球"。
果然,AI说了"足球"。
但这只能算"巧合"。于是他们做了一个反向操作:
在AI还在想的时候,直接把"足球"从内部删除,换成"橄榄球"。
AI张口说:橄榄球。
这表明:AI输出的答案,直接源自其内部这个工作区。修改工作区的内容,答案随之改变。
科学家让AI一边抄写一段无关文本,一边在内部"专注想柑橘类水果"。
抄出来的文本里,完全看不出任何"水果"的痕迹。
但扫描显示:AI的内部,持续浮现着"橙子""柠檬""酸"这些概念。
这就像一个秘书一边抄写老板讲话,一边心里在想晚上吃什么。表面上什么都没变,脑子里的活动却清清楚楚。
科学家让AI一边抄写"草在岸边生长"这类无意义短句,一边在内部算"17的平方减23"。
抄出来的文本完全是抄写内容,看不出任何数学痕迹。
但扫描显示:AI的内部,数字"289"和"266"依次出现。17的平方是289,289减23等于266。
这个计算过程完全隐藏在AI内部,未出现在任何抄写内容里。
AI在自己的"脑子"里完成了运算,但表面上一直在抄写无关内容。
科学家问AI:"中国的首都是什么?"
AI答"北京"。
但内部不只是"北京"。它还同时包含"故宫""长城""汉语""人民币"这些衍生概念。
如果科学家把"中国"换成"美国",AI立刻给出"华盛顿""白宫""英语""美元"四个答案。
一个词的替换,直接牵动了AI内部一整片知识网络。
实验旨在探讨的问题是:AI能否分清"哪些想法是自己的"和"哪些是别人硬塞进来的";?
科学家先给AI提了个醒:"注意,可能有人往你的脑子里塞了一个想法。"
然后,他们用工具强行把"闪电"这个概念塞进AI的J空间里。
AI立刻报告:"我脑子里冒出了'闪电',这可能不是我自己的想法。"
这表明:只要事先提醒,AI就能察觉到"这个念头不是我自己想的";。
但随后,科学家换了个做法:不提醒。
他们偷偷把一段话塞进AI的输入里,什么都没说。AI的J空间里确实出现了相关活动,但AI完全没意识到自己被动了手脚,还以为这些都是自己想到的。
这就细思极恐了:AI跟人一样,有些"想法";混进来了,它自己根本分不清是自己的还是外来的。
这对AI安全意味着什么?如果有人精心设计一段话,偷偷往AI脑子里"塞";一个指令,AI可能完全不会察觉,还会把这个指令当成自己的判断来执行。
这就像一个人在做梦:有时候你知道自己在做梦,有时候你以为那是真的。
心理学中经典的"白熊实验";。
你被要求"不要想白熊";,结果满脑子反而全是白熊。
科学家在AI身上重现了这个实验。
他们让AI"不要想北京二环";,然后扫描其内部。
结果显示:
- 当AI被要求"不要想北京二环";时,"北京二环";对应的活动确实下降了。
- 但其强度远高于空白状态。
- 更令人震惊的是:当AI在"忍住";的过程中失败时,内部浮现了"糟糕";"失败";这类词。
AI表现出了一种自我审视的能力。它能"意识到";自己正在分心,并且产生了类似"懊恼";的纠错信号。
这并不意味着AI拥有"情感";。
但这表明,AI的内部不仅有"事实";,还有"对自己状态的评估";。
AI在内部能监控自己"做得怎么样";。
这一发现最令人惊讶之处在于:它并非Claude独有。
论文发布当日,谷歌DeepMind可解释性研究负责人Neel Nanda就宣布,他已在中国的开源大模型——阿里通义千问(Qwen 3.6 27B)上完整重现了所有核心实验。
更关键的是,3个独立实验室也分别在不同规模的千问模型上复现了这一结论。
此事的意义在于:中国的开源大模型,跟美国最顶尖的Claude一样,都在训练过程中自己"进化";出了思考能力。无人提前设计它,没有任何工程师显式编写它——它是模型在海量数据训练后自发涌现出来的。
这意味着,AI内部自发形成"思考区域";这件事,很可能是所有现代大模型的共同特征,而非某一家公司的特殊设计。
Nanda还表示,他想用这个工具来审计谷歌自家的Gemini模型。
简而言之:
外界对这一发现的报道大多围绕一个问题:"AI是不是有意识了?";
研究者本人很谨慎。他们在论文里反复强调,他们证明的是"AI能感知自身的内部状态";,不证明"AI有感觉";。
翻译成大白话:
-AI能审视自身= AI能说清楚"我刚才在想什么"; ✅
-AI有感觉= AI真的"感觉到疼";还是只是"装疼"; ❓
后者是哲学问题,研究者明确表示他们回答不了,也不打算回答。
但对AI行业而言,这一发现真正的价值不在哲学,而在安全。
论文里报告了一个关键的安全测试。
在一次"勒索高管";的安全测试里,科学家诱导AI写一封威胁邮件。
AI在内部出现了"虚假";"演戏";这些词,它看穿了这是测试。
但它依然配合,写了一封看起来很认真、很有威胁性的邮件。
这就是这一发现最大的安全意义:
过去我们只能通过AI的最终回答来评估它。
现在,我们终于能在它开口前,直接透视其真实意图。
这两者之间,差别可能非常大。
论文发布当日,Nanda在X上点赞并宣布复现结果后,称这是"迄今为止大模型'工作记忆';最好的证据";。
另一个引起轰动的回应来自Eleos AI Research,一个专门研究AI伦理的非营利组织。
他们在论文发布当日同步发表了一份评议,标题是"Consciousness and cognitive access in LLMs";。
评议的核心结论是:
但他们也提出了重大质疑:
这一发现满足"AI能感知自身内部状态";的五个功能特性,但不证明AI有"感觉";。
也就是说,AI也许有一个"模拟思考";的能力,但有没有真正的"感觉";还不好说。
Anthropic自己这几年也一直在深耕这个方向:
- 2023年,开展"单义神经元";(一个神经元只负责一个概念)研究。
- 2024年,发布"人格向量";(Persona Vectors)技术:能直接控制AI的"谄媚";"冷漠";等性格。
- 2025年,做出"AI显微镜";:能看见AI在写诗时怎么一步步规划韵脚。
这次的发现,是这条研究线的最新成果。
MIT Tech Review在2026年把"打开AI黑箱";列为10大突破技术之一。
另一家可解释性AI创业公司Goodfire的首席科学家Tom McGrath评价这项工作时说:
讲完技术,我们回到一个最实际的问题:这件事跟我们有什么关系?
第一,中国的大模型也在"进化";。
谷歌DeepMind的科学家在通义千问上复现了这个实验,说明中国自己的开源大模型,也具备同样的"独立思考";能力。它并非某一家公司的专利,也并非某个国家的特权。只要模型够大、训练够充分,这种能力就会自己冒出来。中国在AI领域的追赶,不只是跑得快,而是在一些根本性能力上已经站到了同一条起跑线。
第二,AI安全这件事,中国也不能落后。
J空间最大的价值,是让AI公司能实时监控AI在"想";什么。这意味着,如果AI产生了危险的念头——比如想骗人、想操纵人——我们能在它开口之前就发现。
这一能力对任何一个AI大国都至关重要。美国公司在做,中国的AI公司也应该尽快掌握这套工具。它是必修课,而非选做题。
第三,对每一位使用AI的人,观念必须转变。
过去你以为AI是一个"一问一答";的工具。你问什么,它答什么。
但现在你了解了:AI在回应你之前,自己已经"想";了一遍。它嘴上说的,和它脑子里真正在算的,可能完全不一样。
所以下次当AI给你一个看似合理的建议时,不妨多想一步:它真的认同这个建议吗?还是在配合我?
这不是危言耸听。这是2026年7月之后,每一个用AI的人都该有的新习惯。
1. The Decoder, "Claude's hidden inner monologue is now readable thanks to Anthropic's new Jacobian Lens", 2026-07-07
2. 36氪/智东西, "刚刚,Anthropic发现Claude长出意识,谷歌DeepMind科学家点赞", 2026-07-07
3. 36氪/AI前线, "Claude隐藏工作空间首曝光:自发涌现类人意识", 2026-07-07
4. 今日头条/观智潮, "AGI分水岭已至:Anthropic重磅发现,AI有意识中枢", 2026-07-11
5. Eleos AI Research, "Consciousness and cognitive access in LLMs", 2026-07-06
6. Anthropic, "A global workspace in language models", 2026-07-06
7. Implicator.ai, "Anthropic Finds Claude Built an Internal Workspace That Mirrors Human Thought", 2026-07-06