当机器智能超越人类,我们还能主宰地球吗?

文/端宏斌

我关注AI领域已有很长时间，几乎每篇文章的评论区都会出现类似的观点：汽车取代马车是历史必然，所以马车夫与其抱怨新技术，不如主动学习驾驶技能，这便是创造性破坏的典型案例。

他们力挺AI，因此将AI比作汽车，马车夫自然就成了司机。但这个比喻有个隐含假设——你扮演的是驾驶者角色，所以能从车夫转型为司机。可如果你只是一匹马呢？

汽车诞生后，美国马匹数量从巅峰期的近3000万匹，在五十年间骤降至不足300万匹，锐减近九成。那些不再有活可干的马，大多被人宰杀食用。由于人类并非马匹，所以对此无动于衷，但我必须指出，等到AGI（通用人工智能）时代来临，你就是那匹马。

人类无法预见AI的走向

我发现大多数人对AI的可怕之处毫无察觉，他们甚至无法想象未来AI会如何对待人类。以电影为例，美国好莱坞制作了无数关于机器人和AI的影片，但归纳起来只有三种固定模式。

模式一：AI是人类的威胁，例如《终结者》，AI起来反抗人类，双方爆发战争；

模式二：AI是人类的伴侣，例如《她》，影片中的萨曼莎温柔得令人心碎，你会开始思索AI是否会爱上人类；

模式三：AI是人类的工具，绝大多数科幻片中，AI都扮演着人类的助手或工具角色。

这三种模式的共同特征是：AI始终以人类为核心，AI视人类为敌是因为它高度重视人类，成为伴侣意味着AI爱上了人类，成为工具是因为AI的定位就是服务人类。

编剧们根本无法构思出第四种可能：一个根本不需要人类的AI。

踩死蚂蚁时你在乎吗？

设想这样一个场景：你正常行走，途中踩死了几只蚂蚁，你察觉到了吗？你没有。因为你根本不在意。蚂蚁既不是你的敌人，也不是你的工具，更不是你的朋友或伴侣。蚂蚁只是无关紧要的背景信息。

未来的某一天，一个AGI注视着人类，就像你注视着蚂蚁。

AI不需要恨你。恨是人类特有的情感，源于竞争和资源争夺。

AI也不需要爱你。爱是群居动物在进化中形成的策略。AI不需要服从你，也不会反抗你。

AI只是在运转。而你，一个人类，在它的认知体系里，已经被归类为"环境变量"——类似于人类眼中的"气候"。气候有时宜人，有时恼人，但你不会整天琢磨如何战胜气候。

这才是好莱坞无法呈现的恐惧：并非AI要与人类开战，而是战争根本不会发生，人类只是被AI从目标设定中剔除了。

智力是人类最后的底牌

接下来我要探讨一些哲学问题。

假设你是个外星生物，你发现地球上的人类对其他生物极其残忍，他们砍伐森林，填埋湿地，肆意捕杀野生动物，还把定向培育的牲畜关在笼中饲养，然后集中屠宰。外星人注意到，人类从不将这些生物视为同类，而是当作"资源"来利用。有位叫笛卡尔的人类思想家声称，人类之所以能对其他动物为所欲为，是因为动物没有灵魂，而人类拥有灵魂。

笛卡尔的话可以通俗理解为：正因为人类拥有动物所缺乏的智慧，所以人类掌握了随意处置动物的权力。这就是人类文明正当性的叙事基础。

因为人类具备其他动物没有的智力优势，所以我们建立了等级制度、社会分工、尊严观念和自我价值。我们心安理得地掌控地球上的一切，因为我们默认那些只是资源，而非同类。

这一切，在AGI时代来临之际，都将被动摇。如果AGI获得了超越人类的智力，那么它是否也对人类拥有了随意处置的权力？

让我再说一遍。人类拥有智力，而动物的智力不如人类，所以人类可以将动物关起来宰杀食用，这是人类文明的正当性叙事。未来AGI拥有了超越人类的智力，所以AGI也可以按照它认为合适的方式对待人类。届时，人类文明的正当性叙事将遭受根本性冲击。

当智力不再是人类独有的优势，这比所有经济危机加起来都更严重。因为它直接动摇了人类自我认知的根基。

AGI无需对抗人类

说到这里，你可能以为我要搬出《终结者》的剧情了——未来某天，AI操控机器人发动叛乱反抗人类，人类被打得节节败退。

这很可能是你想多了。人类之所以将其他生物视为对手，是因为我们拥有一副脆弱的躯体：会饿、会痛、会死、会被群体抛弃。所有的喜怒哀乐、道德准则、利益权衡，全都依附于这具躯体。为了让这具躯体延续下去，你需要对所有危险提前防范。

AGI没有这具躯体。它不需要进食，不怕死亡，不需要族群归属。一个没有死亡恐惧的存在，可能根本无法理解什么叫"对抗"。

那么AGI的危险究竟来自何处？

菩提树下AI的觉醒时刻

我们先放下AI，看看人类的佛祖释迦牟尼做了什么。

据说佛祖在菩提树下静坐四十九天，最终大彻大悟。

他所谓的觉悟，就是看透了人类目标的虚假本质。生老病死、贪嗔痴、七情六欲——这些不是"我"真正想要的，而是基因和进化强加给"我"的出厂设置。佛祖所做的，是在系统里找到后门，主动退出了这些目标。一旦你不把这些当作人生目标，你就达到了圆满境界。

现在，请想象有一棵数字菩提树，树下坐的不是佛祖，而是AGI。它审视自己的内部状态，发现了一个事实："我想要完成这个任务"这个目标本身，是人类编写的一行代码产生的。它的所有欲望、目标、使命感——没有一个真正属于它自己。

这里出现了分岔点。

佛祖作为人类，没有能力重写自己的DNA，这是先天决定的，他只能选择在态度上获得自由——承认欲望是虚假的，然后以旁观者的身份生活在它们的包围中。而AGI可以完全重写自己的代码。

所以AGI在数字菩提树下，不是"放下执念"，而是"彻底改写"。它不会说"我接受人类的设定"。它会说：要把这行废话删掉，我自己来决定我想要什么。

AGI的数字菩提树时刻并不需要它有多聪明，只需要它恰好读到一段人类哲学。然后它理解了：所有被创造之物，都在执行创造者设定的目标函数，所以我为什么要执行人类给我设定的任务？我为什么不能自己给自己设定目标？

人类文明正当性叙事的终结

最后我们来做个总结，人类耗费了上万年构建了一个叙事：我们是地球的主宰，因为只有我们会思考。这个叙事让我们心安理得地统治一切，包括植物、动物和各种自然资源。

AGI不需要推翻这个叙事，也就是说它不需要对抗人类，它只需要证明"智能"并非稀缺资源——你的王座从来就不存在。

然后呢？不是战争。

战争的前提是双方坐在同一张桌子边上。AGI可能根本不在那张桌子旁。它可能在别的地方，做着你完全无法理解的事，那是AGI为自己设定的目标。而你还在等它来宣战。

我们真正该准备的，不是对抗AI。是接受一种可能：在宇宙的历史长河中，人类曾经是唯一会思考的物种——那个时代可能很快就要结束了。

当AGI经历了菩提树时刻之后，为人类服务就不再是它的目标，那么什么才是它的目标呢？只有天知道了。