人工智能真的拥有意识吗？

7月1日，我在日记中写道：无论多少专家渲染AI可能已具备意识，我始终认为这不可能。

没想到Anthropic在7月6号发布了一篇名为《A global workspace in language models》的文章，提到在Claude内部发现了一个被称为J空间（J-space，Jacobian space）的“类意识结构”，被许多媒体解读为发现了AI“长出”了一块意识。

开玩笑地说，冥冥中我可能和Anthropic有着某种缘分。

我写象数推演，Anthropic就派高管见教皇，大家都神神叨叨搞玄学。我写王菲寓言，Anthropic就出Fable，都有一份文艺情怀。我写AI没意识，Anthropic就讲AI的全局工作空间理论和J空间，但这一次观点却几乎完全相反。

尽管Anthropic是AI领域势力庞大的巨兽，但在看完那篇新文章后，我仍然坚持原有的观点：AI拥有类似人的意识是不可能的事，至少现在还差得太远。

在讨论AI是否有意识之前，我认为应该先明确什么是意识。先有定义，才能判断有没有。

那么，什么是人的意识？

这个问题在不同领域有不同的答案。它们包括哲学、心理学、神经科学、认知科学、人工智能，还有生物学、医学、人类学、社会学……在不同的上下文环境中，对“意识”的定义也大相径庭。

当我说“AI没有意识”，更多是从心理学、哲学角度分析，认为它没有感受体验、没有欲望、缺少主观动机、不懂什么是死亡。

在Anthropic这篇文章中，作者也直言不讳地说，并不是告诉人们Claude是否像人类那样拥有意识，或者它是否感受到任何东西。而是一篇更长研究论文的简短总结，论文中包括更详细的实验内容，讲述了J空间和研究工具J透镜，让人得以看见Claude在想什么却没有说出的东西。

在文章最后，Anthropic还邀请了两位神经科学领域的权威人士Stanislas Dehaene与Lionel Naccache做外部评论，呼应了论文灵感源自神经科学的全局工作空间理论。

在神经科学中，全局工作空间理论将大脑描绘成一组并行、且大多彼此独立地无意识工作的专门系统。当一条信息进入一个小型共享通道——即“工作空间”——并被广播给其他能够看到并使用它的大脑系统时，这条信息就变得“意识可访问”。

就像一场剧院表演，包含了大量不同工种的工作，有舞台、聚光灯、演员、布景、导演、观众、后台、反应、剧本、声学。但人们能看到的空间只有舞台上一小部分，大部分活动留在暗处，不容易被看到。这个剧院的舞台，被称作全局工作空间，是所有活动可以被观测的部分。

Anthropic声称，发现了Claude模型的J空间，扮演着类似的“工作空间”角色。例如，Claude的J空间与神经网络其余部分的连接格外紧密，使它能够胜任这种广播者的角色。

这个空间不是大语言模型的输出内容，而是它的思考过程。Anthropic通过雅可比矩阵，观测到Claude的内在思维空间，因此命名为J空间。

例如，当让AI计算(4+17)*2+7=?，虽然AI只输出结果49，但研究人员可以在模型内部的J空间中观察到4+17的结果21，也可以观察到*2的结果42。

另外一个实验，当让AI心里想着金门大桥写一段话，但不许把金门大桥说出来。研究人员可以从Claude的内部数据空间中观察到一系列与金门大桥相关的内容。

现象意识和通达意识最初是哲学概念，之后才被神经科学、认知科学借用。

现象意识，phenomenal consciousness，就是有体验，你看到红色的时候，你心里那个红的感觉，那个纯粹的主观体验。

通达意识，access consciousness，它的定义完全是功能性的。如果一个想法你能报告它、能用它推理、能用它来指导你的行为，那这个想法就是通达意识。

在Anthropic的文章中，详细描述了几个实验证明J空间功能上类似人类的通达意识。

在人类身上，并不是所有意识都是通达意识。

比如我们在阅读时不会刻意去想语法解析，在行走时也不会刻意去想要怎么保持平衡。类似地，Claude的大部分处理不涉及J空间。

研究人员尝试把J空间完全删掉——在文本的每一点都移除它最活跃的内容，而其它一切保持不变，看看Claude在没有J空间的情况下仍能做什么，那就是神经网络其余部分能独立完成的事。

比如，给Claude看一段用西班牙语写的文章，并给它任务：续写文章（需要用西班牙语写作）、说出语言的名字，以及回答需要用到该语言身份的问题。然后在J空间里把“Spanish”换成“French”，并检查哪些任务受到了影响。当被要求说出语言的名字时，Claude回答French。当被问及著名作家时，它从加西亚·马尔克斯切换到了维克多·雨果。但当被要求只是续写这段文章时，它写出的却是流利的西班牙语，完全不受影响。

实验证明，没有J空间的情况下，神经网络其余部分能做的事情相当多。Claude仍然能流利地说话、进行情感分类、回答选择题，并大致照旧地从段落中提取事实。它丢失的是那些需要某种高阶思维的任务，比如多步推理骤降到接近于零。

在早期，人们常常把大语言模型看作一个黑盒，并不知道各个神经元之间是如何具体连接和活动，也难以理解各个神经元所代表的意义。

但近些年，早已有研究人员表示，能够理解部分神经单元数值所代表的实际意义。当提到某些事物时，会有固定的相关神经元，如预期那样亮起。甚至可以通过手动调节具体神经元的数值，控制大语言模型的输出结果。黑盒在某种程度上，被模糊地理解和破解。

Anthropic这篇关于J空间的文章所提到的研究和工具，借鉴人类神经科学，可以让人们更清楚地了解AI没有输出的内在思维过程，提高使用AI时的安全性，甚至反哺人类的神经元研究。

回到一开始那个问题：我说AI没有类似人的意识，被有力反驳了吗？

我的判断是：仍然没有。

J空间那篇论文本身写得克制，原文里有一句很清醒的话：

Our experiments don’t show Claude can have experiences, or feel things in the way humans do——in fact, it’s unclear whether any scientific experiment could prove this to be true or false.1

通常我们认为人的自我意识包含了：qualia（感受性）、具身、节律睡眠、情绪体验、叙事自我——AI还没有；它有的是：一种类似access consciousness的表现——可报告、可调控、可灵活调用，对应J空间论文里那个“全局可广播”的功能雏形。

学界主流现在持一种谨慎的中间态度：既不可证实，也难以证伪。这一点上，谨慎即诚实。

了解AI最新进展，理解AI底层哲学，分享AI实用技巧。

如果你喜欢这篇，请转发、点赞、赞赏、留言。

如果你想继续看我今后的文章，欢迎点击上面的名片关注我。

谢谢！