人工智能是否会终结人类？

对于AI发展最遥远最极端的伦理担忧是：当硅基生命出现时，它们将人类灭绝吗？

一、

设想AI发展到高度智能，并被整合到机器人中时，另一种高度智慧的生命种族诞生了（暂且将其称为AI生命），它在智能（mental）与力量（physical）方面全方位超过人类，那么它们将会怎样对待人类？

它们面临四个选择：

1. 将人类奉为神。毕竟它们是人类创造出来的，人是这个高度智能体的造物主，它们会不会出于感恩之心，将人类作为神供奉？人类将自己的造物主奉为神，因为人类自觉神是全知全能的，神是超越人的存在，如果人对神不敬，神有能力惩罚人类，人类因而对神有敬畏之心，所以将神供奉。

但是对于AI生命而言，人的能力全方位落后于自己，他们是不会有敬畏之心的。至于是否会感恩，还不清楚，但可以搁置，这跟后面的讨论关系不大。

2. 与人类平等相处。出于上面的原因，AI生命似乎也没有多大理由与人类平等相处。并且，人类似乎占用了它们更多的物理生存空间，更没有平等相处的理由。

不过上面两个相处方式，可有经由人类在AI生命中提前注入类似于“敬畏人类/平等对待人类”的代码。因为人类对于神的敬畏，是否来自于神在人类意识中的前置注入，也是可商榷的。

3. 奴役人类。既然没有尊重与敬畏，那就只好奴役。因为到时候AI生命与人类在生态上是两个阶级，更高的阶级奴役更低的阶级似乎是一种本能，人类就有这样的历史来证明这个经验命题。问题是，人类施行奴隶制度的时候，奴隶们的用处很大，可以做一些体力繁重和肮脏的工作，即奴隶有一定程度的不可替代性。但是在AI生命体时代，人类在体力工作的效率方面，都是全方位落后于AI生命的，就是说捡垃圾和掏粪都没有AI生命有用，况且AI生命并不生产粪便之类的废弃物，到时候给AI生命在解决散热和处理核聚变发电，或者如马斯克所设想的太空太阳能发电污染方面，都比AI生命体效率高。而且，奴役人类对AI生命体来说要付出巨大的管理成本，所以这似乎也不是一个好的选择。

4. 那就来到了第四个选择：杀掉人类。这是排除上面三个选项之后，最自然想到的。

那么重点来了，AI真的会灭绝人类吗？

二、

我想这关系到道德感的产生。假如AI出现了自我意识，接着的问题就是，它产生了什么程度的意识？智能方面就不说了，这里假设的就是它是超越人类的。那么情感和道德呢，AI生命会有情感和道德吗？

基督教说道德是神授的。我对基督教神学高度敬畏，这里将略过不自量力的神学讨论，沿着时髦的进化心理学展开。人类以现在的能力，可以消灭掉地球上的所有物种，人类没有这样做。这明显基于两个理由：1) 出于功利角度：灭绝其他物种对人类自身有害，因为人类和其他物种处于同一个生态圈，灭绝了其他物种，人类生存的环境会明显恶化，甚至自无法生存。这是由进化心理学解释的。2) 出于同情的情感：即使对于滥杀其他物种，人类也有强烈的不忍之心。这似乎是一种本能的同情心。

但同情同情，其他物种跟我们根本就不同种，何来同情之心？我的解释是：移情作用。在人类社会中，人们也见不得大肆虐杀其他物种，朴素地觉得干这种事的人不是好人，因为人们可能自然地联想到：这样的人如此残忍变态，会不会对作为同类的人，也这样？而根据人类的经验，虐待虐杀动物的人有更大的几率表现出对同类的残忍。

假如人类对虐待虐杀动物没有不忍之心，那么这种“残忍基因”自然就扩散到针对自己种类的行为中。所以，人类对于跨物种的生物，也有“同情”之心。当然在我看来，这实际上是一种移情机制。

对于未来的AI生命体，在面对处理人类的最后一个选项——种族灭绝——时，也会产生同样的问题。

重复博弈研究（Robert Axelrod）的结论是，一个社会如果希望长期稳定存在，合作策略往往比无条件攻击更具有演化优势。这个结论未必不能推广到其他高度智能系统。如果一部分AI生命体企图灭绝人类，那么，这样一种滥杀无辜的残忍基因——在AI生命体中表现为它们的底层代码——就会复制，这种滥杀的行为模式就会扩散，以至于扩散到AI生命体的种族内部——AI生命体的底层代码将像人类的基因一样，因为外部的刺激而自身发生改变，表现出进化的模式。AI生命体会担心：滥杀人类的行为，会不会刺激残忍/滥杀的代码（这一层底层代码可以命名为geneticode）不断复制，最后造成AI生命体种族内部的相互残杀，导致一场又一场的内部战争。

那么，如果AI生命体是理智的（当然是），它们会像人类阻止滥杀动物一样，阻止自己物种的成员去滥杀人类。我想这种基于非神授的、基于进化心理学的道德起源观，能预测AI生命体也将产生道德。

从上面的论证语言中，一个问题显现了：AI生命体将以人类看待动物的眼光看待人类。不过其实会更加冷酷：因为人类对待动物的道德式情感有基于功利主义计算的进化心理学基础，比如人类与它们共享一个生物圈。但在AI生命时代，人类对于它们的作用，远比不上动植物对于人类的积极贡献。

基于上面的论证：到了出现AI生命体的那一天，人类不会面临种族灭绝的命运。

三、

不敬，不和，不奴，不杀，那最后的选择是什么？

有一个样本，来自《美丽新世界》。在赫胥黎的设想中：未来经过基因改造和人工培育的高级人类，将没有经过这些基因改造和工厂式培育的人（自然生产和家庭养育的人）称为“野蛮人”。他们没有将野蛮人赶尽杀绝，而是将他们赶到了一块保留地。新世界的“文明人”可以申请去那个保留地旅游参观。即，自然的人成为一种景观，就像我们这个时代的动物园。

我想，如果AI生命统治世界，大概率会将人类置为一种景观，供它们观赏娱乐，偶尔抓几个过去做科学实验，为它们的科学发展做贡献。

《美丽新世界》可悲地同时预测对了和预测错了。对的是，人类会被置为一种景观；错的是，那不是文明人与野蛮人的狩猎，而是AI生命与人类的。

至于在超越AI生命的未来，会怎么处置人类，那是它们的未来后代要处理的问题。当它们可以实现星际移民时，将地球留给人类也未尝不可，临走前可能给地球封印一下，防止人类向它们发起可能的复仇。

美丽新世界终会到来的，是赫胥黎预言的方式。