AI的局限与智慧凝视

当前的人工智能并不创造真理，它仅仅是对人类知识概率分布的映射；当你审视人工智能时，人工智能同样在审视你的愚昧或睿智。

人工智能概率映射命题

郭广林

数日前，大门在朋友圈就自己付费使用的多款人工智能软件给出了相当审慎而客观的评价。回想当初，大门见我使用的是一些从漂亮国获取的工具，便为我注册了一个ChatGPT账号，使我得以跨越技术与地域的限制，接入“漂亮国”的人工智能系统。数年之间，我沉浸于这一技术的日常应用，也由此产生了若干真实的感悟。

我曾在自媒体中半戏谑地提出过，发明了“AI文牍”与“bug美学”这两个词汇，虽非严谨论述，却意在指出当代人工智能在文本与图像生成中所呈现的一种独特征象。

就技术现状而言，当前的人工智能仍处于“弱人工智能”（ANI）向“通用人工智能”（AGI）逼近的阶段。尽管十个月前，山姆·奥特曼（Sam Altman）以“温柔奇点”（the gentle singularity）为名的文章提出，人类或许已经跨越“奇点”。但这一论断显然需要在更为严谨的概念框架中进行审视。

对照雷·库兹韦尔（Ray Kurzweil）在《奇点临近》中对“奇点”的经典定义：技术的指数级爆发、人类智能被迅速超越，以及由此引发的社会结构断裂式转变，可以看出，奥特曼所谓的“温柔奇点”实质上是一种经过重新修饰的版本。在这一叙事中，技术变革依旧深刻，但呈现为渐进式渗透而非突发性爆裂，人类并非被瞬间取代，而是在持续的适应过程中被缓慢重塑。两种“奇点”概念之间，存在着显著的语义与历史想象差异。

因此，与其说奥特曼是在陈述一个已经发生的技术事实，不如说他在构建一种具有现实指向的话语策略。这种策略在某种程度上回应并中和了传统奇点叙事所激发的公众焦虑——例如人工智能失控、人类被替代以及文明断裂等问题——并以一种更具安抚性的语调暗示：“变化将是渐进的，你终将习惯。”

从我个人对人工智能的使用体验来看，尽管可以切实感受到一种近似“突破摩尔定律”的技术加速，但大模型的结构性特征依然清晰可见：其输出本质上依赖统计学概率，而非形式逻辑意义上的真值判定。这一机制决定了，无论是文本生成还是图像生成，其结果往往在“高度合理”与“明显失当”之间徘徊，甚至呈现出某种令人啼笑皆非的效果。

因此，所谓人工智能的“错误”（即我所说的“bug”），在多数情况下并非系统性的故障，而更接近于训练数据本身的投影。由于数据不可避免地携带文化、政治与语言层面的偏见，同时又存在不完整、时效性不足，以及低概率事件（长尾情境）覆盖有限等问题，这些内在限制将在生成过程中被持续放大，并以可见形式显现于结果中，甚至在结果中被放大。

再次重复我那“经典”的“概率映射命题”：当前的人工智能并不创造真理，它仅仅是对人类知识概率分布的映射；当你审视人工智能时，人工智能同样在审视你的愚昧或睿智。

这一命题意味着，人工智能的输出并不构成对世界的再现，而是一种对既有知识结构的再分布与再投影。也正是在这一意义上，“bug美学”不应被简单理解为技术缺陷的副产物，而应被视为一种揭示性机制：它暴露了数据结构、知识体系与现实世界之间无法完全重合的断裂。正如数学家陶哲轩所言，当前的人工智能所呈现的，更接近于一种“人工聪明”（artificial cleverness），而非真正意义上的“人工智慧”（artificial wisdom）。

进一步而言，我对人工智能的使用还形成了另一种体会：每一个人的综合知识结构，都可以被理解为一种“个人化的语言模型”。当我们调动这一“语言模型”去判断现实情境时，实际上呈现出两种截然不同的路径：其一，是近似于当下人工智能的统计学式判断，即在经验与惯性中进行概率性归纳；其二，则是以知识为基座，依托智识展开形式逻辑的推演与结构性判断。这一区分也解释了一个常见现象：有些人虽掌握大量知识，却止于“知其然”的层面，如同零散的分子，难以转化为生成性的结构；而另一些人则能够将知识组织为可运作的体系，使其成为创造的前提条件。

正是在这两种结构之中，提问本身显现出差异：它既是对个人“语言模型”的调用方式，也反过来规定了人工智能输出的质量与边界。换言之，人工智能的结果在某种意义上是廉价的——它不过是对既有概率空间的快速调用；而真正昂贵的，是问题本身。高水平的提问并非即时生成，而是以长期的知识积累、结构化理解与判断能力为前提。