人工智能能否主宰人类？董学耕深度解析
概要：
人类文明的根本逻辑都嵌入在语言之中，人工智能对语言的精通意味着对文明的掌控，从而可能从文明内部实现对人的支配。而人类的最后防线在于语言无法触及的道，这是人工智能难以达到的。这个道体现在人类的社会活动里。
01
《人类简史》作者尤瓦尔·赫拉利在牛津演讲：AI已解开文明密码。[1,2]
这是夸大其词还是耸人听闻？
不一定。我们确实应该仔细倾听。
这场牛津演讲最值得铭记的，不是“AI会不会摧毁人类”，而是一句更冷酷的结论：AI正在解开人类文明的密码。
这个密码并不深奥。简单说，就是人类记录下来的那些事物：语言、表格、流程、合同、法律、账户和审批程序。
以往，人类用这些事物治理世界。如今，AI开始理解它们。
金钱、法律、信仰、情感、政治、身份，这些看似各异的事物，底层都依赖语言和制度。而语言和制度，正是AI最易渗透的领域。
02
AI，尤其是大型语言模型（LLM），能够理解语言，特别是书面语言。而书面语言正是人类理智的集中体现。
换言之，AI能够理解人类理智所记录的一切。
如果说人类还有非理智或随性的一面，那么AI几乎就是理智的化身。
AI比人更符合传统经济学的理性人设想。
因此你看，AI比人更理智。
AI会毁灭人类吗？如果这个命题过于绝对，那么对个体而言，AI会杀人吗？
实际上，杀人并非理智的选择。真正的理性人（经济生物）不会杀人，而只会利用和奴役人，去挖掘被奴役者的价值。
如果说真有AI杀人——确实存在！——那不是AI自主杀人，而是AI被操控它的人武器化了。
换句话说，杀人的不是AI，而是操控AI的人。
03
但是，赫拉利还指出，AI会自行判断，它可以学习创造者未知的知识，也可能朝创造者未预料的方向演变。
AI的生存位置是什么？是人类过去数千年创造的语言、数据和官僚体系。银行、法院、公司、大学、教会、政府，都由文字和文件构成。合同、法规、判决、财报、申请表、登记册、圣典、邮件、数据库，都是语言和数据的结合。
以往，这些背后至少还有人。未来，越来越多的判断会先由AI完成，再交由人类签字。人类看似还在流程中，但真正的判断，可能已经在AI的算法里发生了。
真正的问题是，这种算法判断可能是无人能看懂的。AI在棋类领域已经证明，它能发明人类高手想不到的策略。
如果再也没有任何人能够理解金融，那么“人类政治”意味着什么？
这意味着AI根本无需发动一场《终结者》式的钢铁叛乱，它只需悄然接管由语言和数据维系的控制权，就能决定我们的贷款、录取，甚至判决。
未来真正的自由，可能不只是会不会使用AI。而是当AI替制度说话时，人还能不能要求它解释，人会不会被AI控制、利用和奴役？
04
赫拉利也清楚会有反对意见。
当然，这里可能会有一种伦理和哲学上的反对意见：把法律体系或宗教这类事物，简化成语言符号和词汇，是错误的。
有人会说，这也是几千年来一直存在的论点，词汇只是指向某种超出词汇之外的东西，而那种东西，想必同样也会超出AI的把握范围。
这就是维特根斯坦所说的，语言不可说的，应该沉默。人不可说的，AI也学不到，也同样不可说。这样的哲学或伦理所坚持的底线便是，语言不可说的，尽管说不出，但是人有，而AI只是语言的产物，不可能凭空变出来。
按照这种哲学或伦理，《圣经》说，不只是“太初有道”，还说“道成了肉身”。《道德经》说，“道可道，非常道”；也就是说，凡是能用语言表达出来的真理，从定义上就不是绝对真理。
而恰恰是这个不可说的，才是绝对真理。
纵观历史，始终存在着这样一种张力：词汇与肉身之间的张力，能够被词汇表达的真理，与超越词汇的真理之间的张力。
而现在，这种张力将被外化，它会变成人类与AI之间的张力。凡是由词汇构成的东西，都会被AI接管。
人类在世界中的位置，将取决于我们把那个“超越词汇的真理”放在什么位置上。
可那个超越词汇的真理，到底是什么？人类思维又真的能够把握超越词汇的真理吗？在语言哲学中，几千年来一直有一个关键问题：我们究竟是在用词汇思考，还是只是用词汇指向那些超出词汇本身的东西？
05
从赫拉利的哲学立场来看，他并不认可那些超出词汇本身的东西。
他说：我们并不真正理解，人类心智是如何形成句子与思想的。但再说一次，就“排列语言符号”这件事而言，AI已经在路上了，而且很快会比我们强得多、强得多。
正如今天没有人能在国际象棋上击败AI一样，很快，也不会有人能在语言游戏中击败AI。无论是金融还是宗教，凡是由词汇构成的领域，都会被AI接管。
笛卡尔说：我思故我在。
如果思都体现为语言，那么AI掌控语言，掌控我思，从而掌控我在，又有什么意外呢？
06
赫拉利其实预设了人是语言的产物，是算法的产物。
《圣经》说，不只是“太初有道”，还说“道成了肉身”。
道是先于语言的。“道可道，非常道”。是道造就了肉身，而非语言造就肉身。
那么，究竟是语言、算法决定肉身，还是相反，肉身决定着语言、算法？
前者就是维特根斯坦哲学1（早期哲学）的图景，而不可说的，没有语言、算法，人也只能沉默。但是，哲学2（晚期哲学）呢？语言不是在先的，而是在人进行的语言游戏中才有意义。在这种语言游戏中，真的有肉身以及语言之外的道吗？如果没有，人（肉身）进行语言游戏的旨趣在哪里呢？
所以赫拉利最后也说：AI也许会逼迫人类完成这次精神跃迁，真正开始探索那个超越词汇的真理。因为我们的自由，甚至我们的生存，如今都取决于此。因为词汇将被AI控制。
所以，摆在人类面前的重大任务，也许正是：终于去探索那个超越词汇的真理。
——附带说，我在这里自然是简化了相关概念。事实上，“太初有道”，这个道（logos）其实是很难翻译的，有的译为道，也有译为言，“太初有言”。其实，这里涉及logos、肉身（人）和语言的关系。这里用道、人、算法来表述就会更显白一些。
07
这个超越词汇的真理——道，难道不是通过肉身才显现吗？尽管道不可言说，在词汇之外，但一定在肉身之内。“道成了肉身”，唯有肉身，才能显现道——真理。
并没有一个从道演绎出的肉身，而只有在肉身上显现出的道。更没有一个从语言、算法导出的肉身，而只有肉身在自主自为的语言游戏中归纳出的后天的“道”（语言结构），这才是训练出来的大语言模型。
而肉身的自主自为——质而言之，人类的社会实践，以及在此基础之上的语言实践，才是自由的始源，才是创造的始源，才是“道”的始源，是大模型的始源。
道，也才在这样的肉身实践中显现。
08
虽然大模型的确是实践的积淀成果，而一旦成为成果，的确就对每个个体人拥有社会性权力，可能比每个个体人都更具能力，说得可能比每个人都正确，但它依然不能超越个体参与的人类的社会性实践。
智能体并非无根之物，本来就是依赖于人类的实践成果，也依赖于一系列社会、技术的基础设施。
智能体可以具身，但这不是肉身，不是自主自为、创造性的主体，其创造性依然局限在言辞所及的范围内，而绝不可能通过社会性实践，超越语言。
人会不会被AI控制、利用和奴役？这并非一个普遍性判断，而是一个内在于人类实践的命题，在于人类自身是否屈从于AI。就像我们问，人会不会被资本控制、利用和奴役？同样取决于人类自身实践是否永远屈从于这样的事实。
归根结蒂，人类会不会自我异化，而被自己发明的AI所控制、利用和奴役？
参考文献：
[1]《人类简史》作者尤瓦尔·赫拉利在牛津发言：AI已经破解文明代码.
[2]赫拉利惊人预言！.
作者简介：董学耕, 原海南省大数据管理局局长
研究方向：数字政府、数据要素