AI纪元与人类前程：即将到来的重大挑战

人工智能时代与人类未来1：未来几年！人类必须面临的问题

各位书友大家好，欢迎继续做客老齐的读书圈，今天我们来看看，未来学，找来一本最近比较火的书，叫做人工智能时代与人类未来，他有三个作者，都是大名鼎鼎，亨利基辛格，这是美国老牌政客，尼克松访华就是他带的路，还有埃里克施密特这是谷歌CEO，算是科技界的翘楚，还有一个名气稍微小一点，叫做丹尼尔胡滕洛赫尔，这是麻省理工苏世民计算机学院首任院长。也就是说这是一本政界，科技界和学院派共同完成的一本书。这本书反思了人工智能对人类自我身份认同的巨大冲击，提出了未来几年，人类必须面临的问题。

其实人工智能的应用，已经成了社会上最热的话题，也是资本的必争之地，2020年，美国人工智能初创企业就已经筹集了380亿美元，亚洲主要是中国和日本也筹集了250亿美元，而欧洲则是80亿美元。而到了2024年已经开始全面开花，2025年中国的deepseek也开始横空出世，人工智能的推理能力得到进一步加强，而且向着更廉价的方向发展。在科研，制造，教育，物流，运输，国防，执法等等多个行业，都开始赋能。人工智能+这个概念已经无处不在，就跟10几年前的互联网+十分类似。

人类对AI也是又爱又恨，一方面希望这次科技革命，带动全球经济重新走入上升周期，甚至期待人工智能彻底打开科学边界，最终实现人类的永生愿望，但也同时担心，人工智能会抢了我们的饭碗。对人类本来的社会结构形成巨大的冲击。更加恐惧人工智能产生自我意识，甚至最终完全失控，毁灭掉人类社会。

但就目前来看，人工智能未来仍在人类的掌控之中，而我们的使命，是以我们的价值观，来塑造他。

先来看看，我们当下的处境问题，2017年，其实这场革命已经爆发，谷歌旗下的deepmind，开发了人工智能程序alpha zero，对国际象棋程序，stockfish，形成了压倒性的优势。注意这是程序，不是人，实际上stockfish，在对战人类国际象棋大师当中，基本是一个碾压的战绩。但跟人工智能的alpha zero比，却又被无情碾压。这个alpha zero他不是普通的程序，他并不借助预先编程的走法，组合。也没什么棋路设计，完全就是人工智能训练的产物。构建者只是给他提供了一个规则，然后他就按照这套规则自己去做训练，4个小时，自我对弈之后，就成为了世界上最强大的国际象棋程序。也就是说，作为重要竞技项目的国际象棋，人类棋手可能要穷尽一生去研究的领域，被这个机器4个小时就解决了。棋力远远超出了人类能够想象的程度。国际象棋特技大师卡斯帕罗夫在观看了比赛后，声称alpha zero已经彻底动摇了国际象棋的根基。

另一个例子，2020年初，麻省理工学院，宣布发现了一种新型抗生素，能够灭杀此前，对所有已知的抗生素，都有耐药性的细菌菌株。他们也是使用了人工智能参与研发，给他规则，让他自己去训练，很快就识别出了有效抗菌的分子结构，大大缩短了研发过程。要知道研发新药，可以比国际象棋复杂的多，他有成千上万个分子，不计其数的排列组合方式，如果一个一个去试，若干人，若干年也未必会有什么进展，但人工智经过学习了几千个成功案例之后，迅速就掌握了规律，发现了人类此前从没发现过得新的抗生素。而且人工智能，还能发现新的分子特性。也就是这些分子结构与其他抗菌能力之间的关系。这是人类既没有感知也没有定义的东西。也就是说之前的抗生素被发现之后，人类也不能准确地解释，到底起了什么作用。但如今人工智能做到了。

但这些东西，可能离我们普通人还都比较遥远，我们感触最深刻的就是身边发生的事情，也就是GPT到deepseek的全面应用，人类发现，人工智能已经有了初步的推理能力。而且已经在自动驾驶，医疗等领域当中，起到了卓越的作用。那么不远的未来，AI的应用，必然会覆盖我们的方方面面，现在这一切可能才是刚刚开始，第一个目标，就是实现通用人工智能，也就是AGI，也就是完成人类水平的任何智力任务，说的通俗点就是，只要人类会干的，AGI都会干，人工智能达到人类同等水平。比如调取任何的工具，替你写文章，替你做表格，替你写代码，还能控制各种机器，替人类完成，保洁，驾驶，制造，服务等等工作。在AGI实现之后，才是人工智能放飞自我的阶段，也就是人工智能的水平将远超人类本身，那时候还能不能控制的住，就不好说了。比如alpha zero打败国际象棋和围棋的例子，就已经说明，至少在一些细分领域里面，人工智能已经不再被人类的现有认知所限制，人工智能干的事，人类也已经无法想象。那么可能不远的未来，各行各业都会有alpha zero的事件发生，即便是资深的专家，也已经无法知道，人工智能到底在干什么。比如他能做出一种新材料，但你就是不知道他是怎么做的。大家别觉得危言耸听，现在金融领域里已经出现了这个事情，老齐知道，有些大模型在跑算法投资，他就是能跑出超额，但是程序员，和基金经理，都不知道算法找到了什么规律。

所以现在其实我们已经该思考一个问题，谁是主，谁是辅助，决策到底谁来执行，人工智能未来会做出越来越多，令人类完全不理解的事情，他背后的逻辑，我们可能完全琢么不透，那么要不要完全听从人工智能的指令呢？如果不听，你就无法取得突破的结果，比如国际象棋，他让你走的棋路，你完全看不懂，你不听ai的效果就会大打折扣，但如果全听AI的，结果会咋样，会不会有负面效应，这也是我们无法预料的。比如在灭杀病菌当中，会不会带来新的致命病菌？这些统统都不知道，也无法想象。我们已经面临了这样的难题，比如电车博弈当中，遇到危险，到底是向右打轮撞死1个人，还是向左打轮撞死2个人，千钧一发之际，到底要不要把生命的选择权，交给人工智能。根据老齐的了解，现在自动驾驶技术其实已经实现了端到端，没啥问题了。有问题的其实是法律和道德。

越来越多的领域，也使用到了人工智能技术，比如军事当中，人工智能也可以成功的操控军用飞机。但目前来说，人机伙伴关系这个层面还没有达到，全知全能的机器，也还没有出现。也就是说，现在尽管人工智能可以得到结论，进行预测，制定决策，但是他不具备自我意识，换句话说，就是他还没有反思自己在世界上所扮演角色的能力，他没有意图，动机，道德或者情感，不过即使没有这些属性，他也可能会发展出与人不同，出人意料的方法来实现被分配的目标。这将改变人类的生活环境。甚至未来我们会把人工智能，当成一个同伴来对待。现在越来越多的人，正在应用人工智能技术，解决我们现实当中的各种问题，但是思考这项技术，对全人类所产生的影响的人，仍然少得可怜。

作者还讲了一下人类思想的进化史，又说到了很多神学，宗教，总之就是，人类在过去的历史演变当中，创造了越来越多的知识，而这些知识，随着数字化和网络化的到来，变成了越来越多的信息，随着在线信息呈现出爆炸式的增长，我们开始求助于软件程序，来对信息进行分类提炼，并通过回答我们的问题来引导我们，而这个引导的过程，就是人工智能对我们的影响。比如这些年一直说到的一个词，叫做信息茧房。你喜欢看什么信息，就给你玩命推送类似的信息，比如你担心失业，反而看到的到处都是失业的信息，就感觉经济糟糕的不得了。而这可能并非是人类的本意，程序员只是开发了算法，把你喜欢看的多推给你而已。但却实际上给你制造了焦虑。

人工智能最重要的特质就是学习，比如alpha zero，他就是通过数百万场的博弈，来提升棋力。而并不是通过人类给他灌输棋谱。这种学习技术的构建模块是算法，将输入转化为可重复输出的一组步骤。经典算法，基本都是设定好的路径，也就是如果出现什么就怎么样。但是机器学习算法就不一样了，是由改进不精确结果的步骤组成。也就是说，错了没关系，他会记住这个错误，然后改进。那么也就意味着数据越多，他就越精确。数据越多，也就越灵敏。那么这个算法逻辑的转变，对人类又有怎样的影响呢？