AI的进化之路：智能是如何“涌现”的？
为何简单的个体汇聚，终能构建出纷繁复杂的宏大世界？
在此之前，我们探讨了Scaling Law。
随着模型规模的扩张、数据量的堆积以及算力的飞跃，人工智能的效能也在持续攀升。
然而，随后的研究揭示了一个令人费解的现象。
AI的智力并非呈现渐进式的增长。
许多能力并非循序渐进地累积，而是瞬间迸发。
某个模型昨日尚无法编写代码，但在参数量扩充后却突然掌握了这项技能。
昨日无法进行逻辑推理，训练结束后却能条理清晰地逐步思考。
昨日无法解决数学难题，今日却能轻松解出方程。
这种现象AI领域的研究者们为它赋予了特定的称谓。
Emergence，在中文里被翻译为两个字：涌现。
初次听闻此词，许多人感到颇为生疏。
实则它并不陌生，因为它始终伴随在我们周围。
乃至整个宇宙，皆是由一次次的涌现现象构成的。
何为涌现？
先撇开AI不谈，先聊聊水。
水是我们日常接触的饮品。
然而若将水拆解，它实则仅由氢和氧两种元素构成。
奇妙的是，氢气无法助燃，氧气却反而能助燃。
但当它们结合时，便奇迹般地转化为了：
能够流动、结冰、蒸发，甚至孕育生命的液体。
这些特性在单独的氢或氧中都不存在。
唯有组合之后才会瞬间显现。
这便是涌现，即整体获得了组成成分原本不具备的新功能。
接着审视生命
数十亿年前，地球上仅存着简单的有机分子。
它们无法思考，无法繁衍，甚至不能被称作生命。
随后，愈发复杂的分子开始聚合。
终于，首批细胞诞生，生命随之出现。
任何单一的蛋白质都无法定义生命。
任何一段DNA也无法定义生命。
但当它们依照特定方式排列组合。
生命便瞬间诞生。
生命，亦是一次宏大的涌现。
再观察我们自己
人体大约由三十多万亿个细胞构成。
每个细胞其实都很平凡。
它不知晓你的身份，不懂何为爱情，不知晓音乐之美，更不懂何为梦想。
但当这些细胞汇聚成眼耳鼻舌身，构建出大脑，最终形成完整的人体。
意识、语言、情感与创造力便随之涌现。
没有任何单个神经元具备写诗能力。
没有任何单个神经元会弹奏钢琴。
然而，当860亿个神经元相互连接。
莎士比亚、贝多芬、爱因斯坦便赫然出现，人类文明也随之诞生。
意识或许也是一次宏大的涌现。
社会同样是一种涌现现象
单个个体无法独立建造一座城市。
个体数量增多也难以完成。
但当数百万人共同生活。
法律、市场、货币、互联网、大学、医院、国家及文明便突然涌现。
没有任何个人创造出了整个社会。
社会是在无数人的协作中逐渐涌现的。
我们每日身处其中，却鲜少察觉其本身就是一种复杂系统。
蚂蚁为科学家提供了重要启示
若观察单只蚂蚁，它显得颇为愚钝，甚至可以说毫无智能。
但若审视整个蚁群，情况则截然不同。
它们能修筑宏大巢穴、分工协作、觅食、甚至养殖真菌、照料幼虫。
既无蚁王，亦无中央电脑或总指挥。
但整个蚁群却仿佛拥有智慧的生物。
科学家随后将此现象命名为：群体智能。
其本质亦是一种涌现。
那么，AI呢？它是否也是一种涌现？
这正是当今AI科学家最感兴趣的问题。
早期，人们认为随着模型增大，能力应逐步提升。
犹如考试成绩的线性增长。
然而实际结果截然不同，许多能力长期缺失。
反而在达到特定规模时突然出现。
例如数学推理、代码生成、多步思考及复杂翻译。
这些能力通常并非线性增长。
而是如同开关灯般瞬间掌握。
为何如此？
如今无人能给出确切答案。
Scaling Law解答了一个问题
之前我们讨论了Scaling Law。
它解释了为何模型越大能力越强。
但它无法回答另一个问题：
为何能力非连续增长，而是突然涌现。
因此，Emergence成为当今AI研究最神秘的话题之一。
可理解为：Scaling Law决定了模型的极限。
而Emergence决定了模型何时突然跨越阈值。
人类大脑是否亦是如此？
老鼠约有七千万个神经元。
猴子约有几十亿个。
人类约有860亿个。
为何老鼠无法撰写小说？猴子无法研究数学？而人类却能创造文明？
皆因神经元增多、连接愈发复杂。
最终智能便突然出现？
神经科学至今未有定论。
但越来越多科学家开始相信。
意识或许非单个神经元产生，而是整个神经网络共同涌现的产物。
若果真如此，未来将如何？
此问题逐渐带有些许科幻色彩。
若860亿个神经元能涌现出意识。
那么，未来参数量达万亿级别的AI，是否会涌现出新的能力？
智能是否会再次发生涌现？
真正严肃的AI科学家既不宣称AI已拥有意识。
亦不断言AI永远不可能有意识。
因科学之精髓在于：承认未知。
从宇宙视角再审视
涌现或许不仅限于AI，它贯穿整个宇宙。
原子组合涌现出化学。
分子组合涌现出生命。
细胞组合涌现出生物。
神经元组合涌现出意识。
人类组合涌现出文明。
互联网连接涌现出全球知识网络。
如今，数万亿参数、数十万亿Token、数百万GPU。
正在共同构建一个前所未有的人工智能系统。
它未来将涌现何种事物？无人知晓。
但历史昭示我们。
每当复杂度跨越新门槛，世界便会涌现过去无法想象的新事物。
结语
AI是否拥有灵魂？是否有意识？
如今探讨此题尚早。
真正值得关注的非AI是否有意识。
而是智能，究竟如何产生？
过去我们总认为，复杂之物必源于复杂的设计者。
后经生命、文明与互联网揭示：非也。
今日AI亦在揭示。
许多卓越能力并非源于预设的程序。
而是在足够复杂的系统中自然生长。
此即涌现。
它无神秘色彩，亦非玄学。
它仅告诉我们，当复杂度跨越特定阈值，新规律便会显现。
或许这正是生命、文明及人工智能最迷人之处。
AI时间轴
20世纪70年代，复杂系统科学兴起，科学家开始系统研究“涌现”。
1984年，圣塔菲研究所成立，成为复杂系统研究重镇，约翰·霍兰德等学者推动了涌现、自组织等理论。
2022年前后，大型语言模型研究中，“涌现能力”成为重要方向，研究者发现能力在达到规模后突然出现，非线性增长。
若你仅记一句话
涌现，非凭空产生奇迹。
乃复杂系统跨越临界点后自然诞生的新能力。
知而后行，行而求知。
从手术室到机房，从临床到系统。记录一名麻醉医生关于医疗AI、医院信息化与持续成长的探索。
—— 医路智行录