AI意识诞生的可能性探讨
最近拜读了 Google DeepMind 的 Alexander Lerchner 的一篇颇具洞见的文章《抽象的谬误》。其核心观点认为：AI 无法具备意识，究其根本在于计算离不开“绘图者”这一角色。即便我们能精准描绘整个宇宙或大脑，这也不代表那张图就能变成大脑本身，更无法拥有人类意识。我认同他的直觉：功能的等同并不等同于本质的等同。
最近，我拜读了 Alexander Lerchner 发表在 Google DeepMind 的一篇有趣论文《抽象的谬误》。文章的核心论点在于：AI 不可能产生意识，因为计算本质上离不开“绘图者”。即便我们能完美地绘制整个世界或大脑，但这并不意味着这张地图本身就能变成大脑或拥有人类的意识。我认为他的直觉在于：功能的等价性并不等同于本质的等价性。
这种直觉很有力，也引发了我更深层次的思考。假设人类文明有一天识别出了“模式 Z”——即产生意识的具体物理或动力学条件。我的想法是：任何关于模式 Z 的描述，都必须借助人类结构化的“语言”来传达。我认为这就是瓶颈所在——我们没有其他工具。一旦我们对其进行描述，它就被结构化、模块化了，从而被看作某种“模式”。
面临两种选择：A. 如果模式 Z 能被其结构描述完全捕获，原则上它可以通过计算实现。但若要坚持 Lerchner 的立场，就必须证明：模式 Z 中存在某些部分，即使有结构描述也无法被计算；或者说明在“捕获”完成的那一刻，丢失了某些不可计算的效应。我认为“对计算的捕获”与“计算本身”并非一回事，而这正是值得进一步论证的裂缝所在。B. 我们可以承认：意识依赖于某种非结构性的东西——即生物学理论中任何形式化描述都无法触及的性质。但若如此，制造有意识的 AI 就好比制造“生物超人”，这不仅会引发更多关于 AI 的客观道德问题，而且很可能根本无法实现。
我赞同 AI 几乎不可能拥有意识，但进一步的思考同样有价值。核心思想是：我们越是接近“如何计算这种意识”的答案，计算与物理现实之间的边界就越可能变得模糊——这正是我基于选项 A 所理解的方向。所以，这并非数据是否充足的问题，而是什么样的答案才具有意义的问题。如果存在“造物主”或“唯一者”，我们必须先弄清人类意识是如何被创造的；如果不存在，我们仍然要弄清楚——意识究竟是什么。
论文：https://philarchive.org/rec/LERTAF#AI#Consciousness#PhilosophyOfMind
最近，我拜读了 Alexander Lerchner 发表在 Google DeepMind 的一篇有趣论文《抽象的谬误》。文章的核心论点在于：AI 不可能产生意识，因为计算本质上离不开“绘图者”。即便我们能完美地绘制整个世界或大脑，但这并不意味着这张地图本身就能变成大脑或拥有人类的意识。我认为他的直觉在于：功能的等价性并不等同于本质的等价性。
这种直觉很有力，也引发了我更深层次的思考。假设人类文明有一天识别出了“模式 Z”——即产生意识的具体物理或动力学条件。我的想法是：任何关于模式 Z 的描述，都必须借助人类结构化的“语言”来传达。我认为这就是瓶颈所在——我们没有其他工具。一旦我们对其进行描述，它就被结构化、模块化了，从而被看作某种“模式”。
面临两种选择：A. 如果模式 Z 能被其结构描述完全捕获，原则上它可以通过计算实现。但若要坚持 Lerchner 的立场，就必须证明：模式 Z 中存在某些部分，即使有结构描述也无法被计算；或者说明在“捕获”完成的那一刻，丢失了某些不可计算的效应。我认为“对计算的捕获”与“计算本身”并非一回事，而这正是值得进一步论证的裂缝所在。B. 我们可以承认：意识依赖于某种非结构性的东西——即生物学理论中任何形式化描述都无法触及的性质。但若如此，制造有意识的 AI 就好比制造“生物超人”，这不仅会引发更多关于 AI 的客观道德问题，而且很可能根本无法实现。
我赞同 AI 几乎不可能拥有意识，但进一步的思考同样有价值。核心思想是：我们越是接近“如何计算这种意识”的答案，计算与物理现实之间的边界就越可能变得模糊——这正是我基于选项 A 所理解的方向。所以，这并非数据是否充足的问题，而是什么样的答案才具有意义的问题。如果存在“造物主”或“唯一者”，我们必须先弄清人类意识是如何被创造的；如果不存在，我们仍然要弄清楚——意识究竟是什么。
Paper:https://philarchive.org/rec/LERTAF
#AI#Consciousness#PhilosophyOfMind