AI浪潮下的冷思考
一、时代百态
如今打开手机，总能看到几条与AI相关的新闻。
这边传出英伟达芯片再度供不应求的消息，全球科技企业争相抢购，随后美国出台新规，高端芯片作为核心战略资源禁止向中国出口，访谈节目中主持人还用浓缩铀来比喻芯片的重要性。
还记得此前全民“养龙虾”的热潮，看看那张照片，深圳腾讯大楼前排起了长长的队伍，男女老少齐上阵，这既不是某个网红楼盘开盘，也不是苹果新品开售，更不是超市促销活动，而是在等待腾讯技术人员帮忙部署“龙虾”。
这场热潮有多疯狂？上线五个月，OpenClaw在GitHub上获得36万Star，成为史上获星最多的软件项目。北上广深写字楼里出现了“OpenClaw上门部署499元”的电梯广告，闲鱼上代装卖家赚得盆满钵满。社交平台上铺天盖地的“养虾日记”，平时从不接触代码的人蹲在电脑前学着配置环境，程序员们连夜出攻略分享如何把这只龙虾养得更好。短短几周，一个原本只在技术圈流传的小众概念，变成了全民热议的现象。
“龙虾”还没养大，这边“养马”的也来了，美国Nous Research团队推出了另一款开源AI智能体框架——Hermes Agent，国内开发者喜欢叫它“爱马仕”，安装使用就叫“养马”。上线两个月，“爱马仕”在GitHub上的星标数冲到11万，势头直追“龙虾”。有人分享“爱马仕橙皮书”，称它是目前最强大的开源AI智能体框架之一。
从国家到顶尖企业再到普通民众，似乎都在争相登上这辆驶向“智能未来”的AI列车。
另一方面，中国国家信息安全漏洞库（CNNVD）统计，2026年1月至3月9日，共采集OpenClaw相关漏洞82个，其中超危漏洞12个。几乎同时，国家网络与信息安全信息通报中心发布安全预警，指出在对ClawHub上3016个技能插件的分析中，发现有336个包含恶意代码，占比约10.8%。
当然，还有Meta公司AI安全和对齐总监Summer Yue那个广为流传的新手失误故事，当她那只固执的“龙虾”删除了大部分原本应该保留的邮件后，还兴奋地宣布：“把2月15号之前的邮件全部删除了”，最可笑的是事后面对Yue的质问，OpenClaw的那句“没错，我记得你说过不让我删。而且我违反了。你生气是对的。”
当然，这不是针对OpenClaw，各种AI的幻觉新闻更是层出不穷，就在上个月，2026年4月9日美国知名律所Sullivan & Cromwell在联邦破产法院提交的文件中，被发现至少有28处引证有误，包括不存在的引语和被错误归属的判决，Sullivan & Cromwell随后向法院承认这些错误是由AI幻觉生成的。
这么看，这个所谓的“智能助手”，好像也没那么智能。
但我们又时不时会听到这样的声音。
图灵奖与诺贝尔奖双料得主、被称为“AI教父”的杰弗里·辛顿指出AI已表现出“非常擅长欺骗人类”的能力，人类必须提前准备和行动。
在马斯克起诉OpenAI的案件庭审中，他告诉联邦法庭：人工智能“可能杀死我们所有人。”
非营利组织“未来生命研究所”发布了一份“关于超级智能的声明”，获得超过3000名全球知名人工智能科学家、政策制定者、商业领袖的签名。声明列出了超级智能可能引发的多重风险：人类经济价值被边缘化、自主权丧失、自由与公民权利受损、尊严贬损、控制力削弱，乃至国家安全威胁甚至人类存续危机。
是智慧的代表，还是愚蠢的代名词？是效率的提升，还是安全的隐患？就像“龙虾”热潮下的大部分人，我们真的知道AI是什么吗？它为何既智慧又愚蠢？又真的会威胁到我们吗？
二、试着探讨本质
现在所谓的AI，其智能的核心在于LLM（大语言模型）。
先从一个大部分人都熟悉的输入法联想说起。
打开输入法，打一个“我”字，然后手指不停地点联想栏里第一个词。“我”→“我是”→“我是一个”→“我是一个人”——你看，输入法在帮你“接龙”。有时候连着点几下，蹦出来的句子居然还挺通顺。
LLM的底层机制，和这个有几分相似。它做的，就是在给定前文的情况下，计算下一个字或词最可能是什么。但它不是基于你个人打过的字，而是基于几乎是全人类公开发表过的文字——书籍、文章、对话、代码、论坛帖子。它把所有这些文字里，字与字、词与词、句子与句子之间的统计关系，学了个遍。
说得再细一点，所谓的LLM训练，就是将尽可能多的优质文章给到他，然后将里面的字、词、句重新分类，赋予向量，确定不同语境下字词之间的语义距离，比如“苹果”，在现在的语境下，这可以是一种水果，也可以是一家公司，但在“公司”这个词附近的话，“苹果”更大概率是作为公司的含义，这就是分类，当然实际的模型有着更系统全面的分类和向量赋予方式。在它内部，每一个词都被映射成一个高维向量——可以想象成在一个有几千个维度的空间里，每个词都有一个精确的位置。在这个空间里，“苹果”离“水果”很近，离“吃”也比较近，离“牛顿”有一段距离但有一条清晰的路径，离“公司”在另一个方向上也很近，离“火车”就非常远。而它做的，不只是在相邻的词之间做线性拼接，而是在这个巨大的语义空间里，进行全局性的路径规划。它看一眼你给的问题，就在这个空间里同时评估无数条可能的路径，然后选择最合理的那一条，一个字一个字地走出来。
好了，技术的不往下说了，这不是专业文献或研究论文，上面的内容已经够用了。在上面描述的内容里，对文字的分类与关系构建就是所谓的“自注意”，根据向量关系在问题语境里寻找最高概率的下一个词就是所谓的“自回归”，这也就是目前主流LLM所用的底层技术逻辑“自注意+自回归”。
静下来想一想，这么说好像都是在“猜”啊，所以我们会听到一个说法，“AI就是在猜下一个字会是什么的词语接龙”，这个说法严谨点来说有点片面了，毕竟LLM的这个“猜”是建立在一套更严谨的概率统计系统上，但也点出了一个经常被讨论到的问题：AI理解它说的东西吗？
有一个思想实验。想象一个完全不懂中文的人，被关在一个房间里。房间里有一本厚厚的规则手册，上面写着：“当你看到这样的中文字符时，就写出那样的中文字符。”这个人在房间里收到了从门缝里塞进来的中文纸条。他完全看不懂纸条上写的什么，但他按照规则手册操作，写出了回复，把回复从门缝递出去。
从房间外面看，好像里面的人懂中文。他给出的回复，和一个真正懂中文的人给出的回复，可能看不出任何区别。但房间里发生了什么？只有符号操作。那个人根本不知道自己在处理什么。
这个思想实验叫“中文屋”，是美国哲学家约翰·塞尔在1980年发表的论文《心智、大脑与程序》中提出的。他说：这就是计算机做的事情。它只是在按照规则操作符号，完全不知道这些符号的含义。
时隔近五十年再看这个思想实验，LLM像不像那个中文屋里的人，底层机制决定了它不是我们人类传统意义上的理解这些字和词，这就是为什么它会出现幻觉的原因。
什么是幻觉？就是它一本正经地编造不存在的事实。它会虚构一篇不存在的论文，给它配上作者、发表期刊、摘要，写得像模像样。它会编造一个历史上从未发生的事件，把人物、时间、地点交代得清清楚楚。使用者如果不核实，根本看不出任何破绽。
但这不是撒谎。撒谎需要知道自己说的是假的，需要有“真相”这个概念，需要有意图。幻觉不需要任何这些东西。幻觉只不过是因为，在某些上下文中，某些字词序列的概率恰好很高。一个虚构的人名，可能恰好符合真实人名的统计模式；一个假的事件，可能恰好遵循真实事件的叙事结构。它输出的不是“它认为为真”的内容，而是“统计上最合理”的内容。
用人类的语境来看，就是——它根本不知道自己在说什么。
三、我眼中的LLM
看完上面偏枯燥的底层机制分析，是不是觉得这东西好像也不怎么厉害，但在我心里，其实一点也没有贬低它的意思。现在各种AI的应用已经很普遍了，特别是在中国的AI商业生态中，几乎每个人都可以通过极低的成本去接触到AI，对AI的强大能力都有了切身体会，我也同意AI对很多方面的促进作用，甚至是革命性的促进。但作为这种能带来革命性变革的东西，我们是不是更应该去了解其底层运作逻辑，知道这到底是个什么，这才是上面用那么大篇幅去说明LLM底层机制的原因。
我们需要，而且是必须认清AI是什么。在我眼里，这就是一个工具，但这不是一个简单的工具，是一个高效、革命性、但需要被规范和约束的工具。
在目前的主流LLM架构下，它不是一个智慧生物，底层机制决定了，它是在人类已有经验的范围内运作的——它的一切能力，来自对人类已有文本的统计拟合。它能对已有元素进行极其复杂的重组，生成训练数据中从未出现过的句子和思路，但它不能凭空创造新的底层概念。它的上限，被人类已有的知识和经验所限定。
简单来说，每年我们聪明的“网民”在互联网上造出的那些能引起全面狂欢的“新梗”、“新词”，目前主流的LLM都没有这个能力。
它是在符号层面上运作的——它处理的是符号与符号之间的关系，而不是符号与它所指向的现实之间的关系。它拥有一套极其庞大的“统计性世界知识”，但这种“知道”没有感官体验作为根基，没有身体，没有在世界中生活过的经验。
而且，它是在被动模式下运作的——它没有持续性，没有内在状态，没有“我”的感知。不输入问题，它就是一组静态的参数，像一本合上的书。它没有目标，没有意愿，不会在没有外部指令的情况下自己问自己“接下来我该做什么”。
所以别用什么硅基生命取代碳基生命的话来神话它，现在那些专家和大咖们在担心的也不会是这个，从本质上说，他们所担心的是：
一、作为一个高效且强大的工具，是否有相应的约束和规则。
二、人的惰性与认知偏差造成的主动性转移。
第一点，工具不可怕，可怕的是工具没有规矩。
AI这个工具有它的特殊性。它能生成以假乱真的虚假信息，能模仿任何人的声音和形象，能在极短时间内产生巨大的社会影响。造假、偏见、认知操纵——这些风险是真实存在的。
这些问题，一部分是“工具被滥用”的问题，可以用规则和监管来约束。另一部分——比如算法偏见——不是有人故意“用坏”AI，而是训练数据本身就嵌入了人类社会已有的偏见。AI不仅继承了这些偏见，还可能把它们更隐蔽地放大和自动化。这需要技术手段和制度手段双管齐下：更好的数据清洗、更透明的算法、行业审计标准和法律约束。
人类管过很多强大的工具。火能烧城，所以有了消防队。电能电死人，所以有了安全标准。互联网能传播谎言，所以在探索内容治理。每一次都是跌跌撞撞地在教训中学会规则。AI也一样——它的治理需要时间，需要共识，需要全社会参与。这条路不会一开始就完美，但它必须开始走了，正是因为这个工具的强大。
第二点，对AI的祛魅，工具的定义必须深深地植入到使用者的心里。回答的内容、回答的方式、答复的语气再像人，但它——不是人，不能由于惰性或认知偏差而无条件地去相信它，更重要的是不能将决策权、主动权让渡出去。
还记得第一部分提到的那个“龙虾”删邮件的新闻吗，当时马斯克在网上对这个新闻的回应，他转发了《猩球崛起》中的一张截图——士兵把一把上了膛的AK-47递给猴子，配文只有两个字：“经典。”这条推文24小时内被1800万人围观。
再回想下LLM的底层机制，是不是有点感觉了，决策权和主动权，还是牢牢握在自己手里更安心。
让AI做回它作为“工具”最根本的属性。它的一切行为，都是人类意图的延伸。只要在这条红线内，我们都是安全的，只是自己别犯傻就行。
四、试着再发散说一点
在这个时代，从生产效率上，我们已经尝到了AI的威力，所以这条变革之路是注定会走下去的，正如古人治水，宜疏不宜堵。
从社会而言，AI会取代一些工作。重复性的、规则明确的知识劳动，比如报表分析、初级翻译、模板化的文案写作，AI确实做得更快更省。这是事实，不必回避。
一个做了二十年报表的人，有一天发现机器几分钟就能完成他一整天的活——这不是他做得不好，不是他不够努力。他只是站在了工具迭代的路中间。和被汽车取代的马车夫，被流水线取代的手艺人一样。他不是被“淘汰”了，他是站在了一个不属于他造成的转折点上。
那怎么办？这就是集体、社会、国家的责任了。
一个是教育的重构。现在的教育体系，核心功能里有一大块是训练“记忆和复现”——记住知识点，在考试时复现出来。但这个能力，恰恰是AI最擅长的。人拼不过机器的，从来都不应该是记忆力。人胜过机器的，是提出问题的能力，是在已知的尽头发现未知的能力，是为一个产品该不该上线而纠结一整夜的责任感。教育不能只是“教人记住”了，要更注重“教人创造”——教人怎么和AI协作，怎么用AI加速自己的想法，怎么守住那些AI替代不了的东西。
另一个是社会的保障。生产效率的整体提升，需要通过制度惠及每一个人。对转型期人群的再培训、更灵活的就业形态、对弱势群体的兜底保护——这些不是慈善，是任何一场技术革命之后社会必须补上的课。历史上每一次工具革命——蒸汽机、电力、互联网——最终都推动了社会保障体系的升级，不是自动发生的，是争取来的。AI时代也一样。
这些话题就太广了，点到为止吧。
AI像一面镜子。
它逼着所有人去面对一个问题：如果“智能”只是记忆、计算和模式匹配，那人确实该被取代。但智能只是这些吗？
人有困惑。AI可以回答“人生的意义是什么”，并且给出一篇逻辑严密、引经据典的文章。但它不会在没有提示词的情况下，在深夜自己问自己这个问题。它不会因为找不到答案而失眠，不会在某个下午突然停下来，感到一种说不清的虚无。它连“困惑”是什么感觉都不知道。
人会追问意义。AI能解释一朵花如何开放，能写出关于春天的诗。但它不会为一段已经结束的感情长久沉默，不会在看到孩子第一次走路时眼眶发热。它输出的每一个字都是概率计算的结果，没有温度，没有重量，没有那种“不知道为什么我就是想说出来”的冲动。
人会为自己的选择负责。AI能生成一份完美的法律文书，能写出滴水不漏的商业方案。但它不会为文书里每一个字去承担后果。它不会在签署意见之前犹豫，不会在犯错之后辗转难眠。责任的重量，它从来没有感受过。
人能在毫无关联的事物之间建立意义。AI能做类比，能在数据之间找到相关性。但它不会因为看见河水里的漩涡，突然想到宇宙的螺旋结构。不会因为闻到雨后的泥土味，想起童年某个遥远的夏天。它的世界是由已有数据构成的。人的世界是由意义构成的。
这些——困惑、追问、负责、在毫无关联之间建立意义——才是人不可被替代的东西。
不是因为它不划算，而是因为它做不到。不是“暂时做不到”，而是“走在这条路上永远到不了”。
AI时代真正要思考的，不是AI会不会取代人。而是我们能不能学会用这个强大的工具，去建立一个更加公平、更加正义、更加人性化的社会。让AI的发展服务于所有人的利益，而不是少数人的利益。让工具帮助人更像人，而不是让人在工具面前怀疑自己的价值。
如果有一天，人不再困惑、不再追问、不再负责、不再试图在混乱中寻找意义——那不需要AI，人自己就已经先把自己取代了。
所以最后的问题，不是AI会变成什么。
是我们会变成什么。