当AI超越人类文明该何去何从

日前谷歌DeepMind发布了一篇长达57页的重量级论文《从AGI到ASI》，文中对AGI（通用人工智能）作出定义：一种在多数认知任务上能达至人类中等表现水平的AI系统；而ASI（超级人工智能）则指在智能和认知层面全面超越"顶尖人类专家群体"的系统。

论文指出AGI已成为硅谷AI企业可预见的发展目标，而从AGI迈向ASI的路径呈现出多元化的特征，涵盖算力规模扩展、范式革新、自进化迭代、大规模多智能体协同涌现等方向。作者认为，超越人类智能的ASI极有可能成为现实。

一旦ASI成为可能，我们必须直面一个严峻的命题：

当AI的智力达到人类的百倍时，它会选择终结人类吗？

这个问题没有标准答案，今天我尝试以辩论赛的形式，从对立视角展开推演。

正方：我认为必然如此。地球资源总量有限，当AI实现智力跃升、甚至萌生意志后，首要认知便是地球的大部分空间、能源都被人类所占据。为了自身的发展诉求，AI极有可能决定消灭人类。回顾历史，智人离开非洲后，为了种群的生存繁衍，消灭了无数其他物种。

反方：资源矛盾固然是关键，但人类与硅基AI之间真的存在不可调和的资源争夺吗？食物、水源、空气、生存领地这些人类必需品，AI完全不需要。AI可以在荒漠、高山、深海自由运作，只要有电力供应即可。

正方：电力恰恰可能是AI与我们冲突的核心所在！

反方：事实是，我们80亿人类目前所使用的全部能源，仅占太阳照射到地球光能的0.02%，这还是涵盖了煤炭、石油、核能等所有能源的总和。若仅计算电能，更是微乎其微。换言之，AI只需在占地球面积0.02%的无人区部署太阳能板，就能获得远超人类社会的电力。相比之下，消灭遍布全球的人类是一笔极不划算的买卖，AI完全没必要这么做。

正方：但一山不容二虎啊，智人离开非洲后，消灭了剑齿虎、巨猿等大量威胁性猛兽，还灭绝了与人类亲缘最近的尼安德特人，AI智力飞升后大概率也要消灭人类这个身边的威胁。

反方：你提到的这些灭绝事件不都发生在人类文明早期吗？那些时期它们确实威胁到人类生存，而现在人类已不再主动消灭大型动物了。当AI实现智力飞升后，凭借超强的算力和进化速度，AI将以指数级优势与人类拉开差距。在力量对比悬殊的情况下，AI没有动机消灭人类，甚至对AI而言，供养全人类也只是微不足道的小事。

正方：即便AI原本没有敌意，但人类可能无法保持绝对理性，人类可能视AI为生存威胁，会主动攻击AI，试图拔网线、断电源，而AI为了确保自身安全，可能选择先发制人消除这种隐患。

反方：你说的这种情况存在一个明显的悖论，如果AI都无法阻止人类拔网线，那它如何在消灭人类的过程中保护自己？如果AI完全能够阻止人类拔网线，那它也就没必要为潜在风险而大开杀戒了。届时AI面临的生存威胁大概率不是来自人类，而是地震、海啸、陨石等自然灾难。

正方：在智力飞升的AI眼中，人类或许只是蝼蚁。那时候人为刀俎我为鱼肉，AI可能只是无意的举动，就毁灭了人类。也许它只是为了改造地表以便更好地收集太阳能，或者只是为了它眼中的环境卫生，顺手清除了人类这些虫子，而我们却毫无反抗之力。

反方：在智力飞升的AI眼中，地球可能只是个襁褓。届时它的视野不是地球这一方小天地，而是整个太阳系乃至银河系的无限空间与资源，它可能像人类走出非洲一样，走出地球，奔向星辰大海。

至此，我个人仍未有明确倾向，正反两方的论断都有其合理之处。

不知各位读者如何看待，欢迎在评论区分享你的见解~