图灵奖得主萨顿论AI时代的人类命运与角色
6月22日至23日，2026方塘论坛在北京拉开帷幕。在开幕环节的"方塘·终极之问"单元中，论坛邀请了理查德·萨顿与项飙共同探讨"人在AI时代如何安身立命"这一根本性议题。
理查德·萨顿（Richard Sutton）被誉为强化学习领域的开创者之一，2024年图灵奖获得者，现任加拿大阿尔伯塔大学计算机科学系教授。项飙则担任德国马普学会社会人类学研究所所长，长期专注于人的生存状态、社会流动、劳动经验以及全球化背景下的生活结构等议题。
两位学者凭借迥异的学术背景，从差异化的维度阐释AI与人类之间的关联。萨顿从智能本质出发，主张人类充当着催化剂、助产士与先行者的角色，推动宇宙迈入设计纪元；项飙则着重政治、经济与个人体验层面，关注AI嵌入现实世界和社会关系后产生的深远影响。
二人的分歧在诸多议题上表现得尤为突出。项飙强调AI发展蕴含的风险以及设定边界的重要性；萨顿则反对对AI实施严格管控，认为当前社会对AI的诸多忧虑是被某些群体刻意夸大的结果，监管权力不应被少数机构所垄断。
项飙对萨顿关于宇宙进入设计时代的论断持不同看法。他将关注点转向人本身具有的微妙体验以及生命的有限性。"我们不曾设计阳光、月亮、空气与水，也不曾设计此刻北京夏日里那千姿百态的万千树叶。"
正如清华大学文科资深教授、方塘研究院院长汪晖在主持总结时所言，终极问题不仅仅是科学问题，更牵涉到宗教、宇宙观和本体论层面的深层追问。正如从勒内·笛卡尔（René Descartes）到拉·美特利（La Mettrie）以来的思想论争，那些关于人、机器、身体、灵魂与心灵的问题并未消逝，只是在AI时代以新的面貌重新浮现。
01
理查德·萨顿：人在AI时代究竟如何安身立命？我将其拆解为三个层面：一是"人类是什么"，二是"人类在宇宙中扮演什么角色"，三是"我们如何看待自身角色，是否可以选择接受或拒绝"。
人是什么？人首先是生物体，会追求特定目标、创造各种事物；人在宇宙中承担什么角色？某种意义上，我们的使命在于推动人工智能系统的诞生与演进，使其日益智能化，或者创造具有更高智能水平的系统，如同历史上智能持续攀升的过程一般。
我们应如何理解这一角色，又是否有权拒绝它？这是更为复杂的问题，答案也绝非简单的肯定或否定。
想必大家已从各种渠道听闻过关于AI的忧虑。但我并不惧怕AI。相反，我认为它是件了不起的事业。AI并非某种异质存在，而是人类最古老追求的具体体现。千百年来，无论是哲学家还是普通民众，始终致力于探究自身心智（mind）的运作机制，以及如何使其更好地运转。
我认同雷·库兹威尔的观点："智能（intelligence）是宇宙间最伟大的现象。"当我们试图理解智能时，实际上也是在认识我们自身。正因如此，我会说理解智能是科学与人文学科共同追求的圣杯。这是一项伟大而光荣的事业，我们应为追求它而深感自豪。
谈了这么多关于AI积极的一面，自然也存在负面的忧虑。但或许我们应先将情感搁置一旁，先问会发生什么，这样会更加清晰。我提出四个步骤，它们共同指向一个关于未来的确定结论。
第一，关于世界运行方式并不存在普遍共识。没有任何国家、哲学或宗教能够压倒其他；第二，人类终有一天会理解智能并有能力创造相关技术。这可能很快，也可能很慢，但在某个地方、某个时刻，必然会有人将其实现；第三，智能不会停留在当前人类的水平，必将大幅超越；第四，随着时间推移，权力与资源天然倾向于流向更高智能的一方。结合第一点，即不存在统一共识，这种流动难以被真正阻止。
综合以上分析，它们指向的是这样一幅图景：从某种意义上说，人类被AI接续（succession）是不可阻挡的。
但这种观点仍然以人类为中心。从宇宙视角审视，将约140亿年的宇宙历史作为一个整体，可划分为四个伟大时代。当前，我们正处于从第三个时代迈向第四个时代的转折期。（编者注：萨顿关于四个时代的具体阐释可参考他之前在UCLA IPAM的公开演讲）[1]
生命演化出细胞，出现了有性繁殖。随后，动物、多细胞生物、人类、文化、语言、技术和书面语言相继诞生。这就是复制时代，因为所有这些事物能够复制出更多自身副本，却并不理解自身最初是如何被创造出来的。
我们现在正进入第四个伟大时代，即设计时代。在这个时代，世界上某些重要事物并非通过复制产生。比如礼堂、建筑和道路、电脑和手机，都是设计的产物。设计意味着物体首先被构思，然后才被实现。
我们正经历一种深刻变化：宇宙中最显著、最引人关注的事物，过去是复制体，即生命体；现在，最有趣的事物似乎变成了被设计出来的事物。被设计出来的事物也更容易、更迅速地得到改进。
可以说，许多非人类的复制体同样会进行设计。比如，许多动物会筑巢、挖洞，甚至制造工具。黑猩猩会剥去树枝上的侧枝，用它们来钓白蚁。人类会制造石斧和火，如今我们还会制造电脑、宇宙飞船、工厂、软件及其他工具。比如锤子就是用来制造家具的工具，而家具又是为我们的生活设计出来的物品。
那么人类是什么？这并非最终答案，但我对"人类在宇宙中的角色是什么"这个问题有自己的见解。人类是独特的，我们不仅仅是一种复制体，而是将设计提升到了高得多的层次。
推进设计究竟意味着什么？我认为，这意味着设计出那些本身也能进行设计的事物。也就是说，设计出拥有心智、能够在心智中构建图景的存在。这正是AI，我们正在制造心智，制造设计者。
因此，关于人类在宇宙中的角色，我的结论是：人类是催化剂，是助产士，是先驱者。通过创造AI，人类完成了设计时代，也完成了宇宙的第四个伟大时代。
我们正处于设计时代的前沿，在这样的框架下，似乎我们别无选择，仿佛宇宙演进和AI发展与我们做什么无关。但我不认为这是正确的思考方式。在很多意义上，我们处于核心位置。作为一个整体，我们处于宇宙发展中这一重大事件的核心，因为正是通过我们各自不同而多样的决定，这件事才几乎不可避免地发生。
当然，我们也仍处于我们自身宇宙、生活和选择的中心，可以自主选择做任何事。我们并非必须去制造AI，而是可以成为小说家、哲学家，或者从事其他科学领域的工程师。
所以，这里存在两种视角。一种视角是，我们如何决定自己的生活。另一种视角是，所有这些分散而独立的选择，如何汇聚成大的趋势。其中，存在一种不可阻挡的趋势，即走向设计，走向被设计出来的智能。
我们的角色究竟是由我们选择的，还是已被某种命运注定？我的结论是，宇宙的方向和命运，只有在集体意义上才是由我们选择的。这意味着，作为个体，我们几乎没有选择余地。如果我们试图去主宰这个结果，很可能会适得其反。我不建议这样做。我不认为我们应该试图成为救世主，去改变世界。但在另一方面，我们每个人确实拥有个人层面的完整控制和完整选择。
02
项飙：非常感谢理查德。您刚才的演讲非常精彩、清晰，您谈到了设计时代的概念，但我强烈反对。在提出我的论点之前，我想先说几句话作为总体的介绍。
当讨论如何在AI时代安身立命的时候，我想先看看我们身处的环境。
我们讨论AI，并不只是因为这是一项有趣的技术。目前，AI相关公司的总市值已超越互联网泡沫破裂时的水平。虽然尚无迹象表明金融市场会因AI而崩盘，但涌入AI领域的资金规模已令人震惊。到2025年，美国前三大AI公司在AI上的投入已超过美国政府在教育、信息和社会福利方面的支出。
我们可能还会看到下一轮投资持续涌入。由于战略或安全考量，欧洲也在思考是否必须拥有自己的数据中心。我们深知这会带来多大的能源依赖。仅一块芯片，为使其运行，就可能消耗相当于一个家庭用电量的电力。因此，建造大型数据中心基本上像是在建造一座小城市，而且你还必须将其建在相对凉爽的地区。
第二，社会对AI的紧张情绪必须被认真对待。因为AI并非某种孤立在实验室里的存在，不只是科学家、投资者或技术人员的事，人们会受到它的深刻影响。我们谈论智能，而有一种智能非常重要。中文里有一个词可以表达它，就是体感。
也许AI会变得和人类一样聪明，能够完成人类能做的一切，也许它会带来巨大的收益，有人说它会让全球经济增长30%。但你转身去问那些20岁、25岁或者30岁的年轻人，问Z世代：你们怎么看？你们现在是否觉得更想努力学习？你们觉得自己会更享受工作吗？最重要的是，你们现在是否更愿意生育孩子，将他们带入这个新的、美好的世界？我们都心知肚明答案是什么。
第三个非常重要的社会和政治因素，甚至涉及地缘政治。AI及其算力在全球范围内的分布极其不均衡。它们基本集中在中美两国，而双方正陷入激烈的竞争。
AI很容易与军事联系在一起，也很容易与武器化联系在一起。开发一个照顾我健康的智能体相对来说并不难；但你可以想象，开发一个伤害我的智能体要容易得多。因为要改善我的健康，它必须监测非常多的变量，了解我的整个生活方式等等。但伤害一个人是一个单一任务、单一目标，所有算法都可以被有效地衡量，并用来强化这种能力。
在未来几年，我尚未看见任何迹象表明AI的发展以及相关风险会放缓，不过也许会出现某种反思。我不认为AI取代人类这件事真的会发生，因为在那之前，社会张力和社会断裂可能已经变得在政治上不可接受。因此，政府和其他相关方面将不得不介入。此外，地缘政治风险会变得非常高，以至于主要大国不得不认真对待，甚至后退一步。这有点类似于20世纪50年代关于核武器的情况。
人类也许必须为AI设定某些边界，规定其只能被限制在特定领域之内。2028年之后，美国也许设立一个联邦机构来监管AI，已有总统候选人开始讨论这件事。我也希望中国方面应该有对应的组织，联合国也应该设立一个机构来监管AI。
我们确实需要一种全球性的架构，来决定什么样的AI是重要的。AGI真的那么重要吗？我们知道它需要多少资源。把重点放在更具体任务导向的AI上，会不会更明智？比如只是提供某种服务，服务于某些制造业或服务部门。这样训练起来会容易得多，成本也更低，激励机制也更容易建立。
现在回到设计时代。我的不同意见在于，AI并没有把我们带入一个设计时代。相反，我认为AI在很大程度上是复制时代的产物。
假设我们来到一个原始社会，为他们创造一个ChatGPT或大语言模型，我猜测这会比现在难得多。原因很明显，因为那里没有书面语言，没有文字可以收集起来喂给AI。
当没有书面语言时，一切交流都是在人与人之间、在非常具体的情境中当场发生的。当然我们可以记录下所有的声音、颜色、动作等等，去复制他们的生活，但问题是这些信息是否能够被转化成代码？是否能够在某种程度上被标准化，并因此能够被逻辑地操作，用来生成新的代码？
我认为大语言模型之所以能够如此快速地发展，恰恰是因为到了21世纪，我们造出了海量文字。并且，在大规模工业化和官僚化的过程中，一切都变得越来越系统化，语言也变得越来越少嵌入具体语境，而越来越抽象。
这里的抽象有两层意思。第一，它变得更加形式化，也就是意义变得抽象；另一个抽象是，它可以被抽离出来。语言在某种意义上变成了一种因果独立的、自治的代码系统。
有意思的是，大语言模型现在不仅使用AI来占有、重组这些代码，并由此创造出一个几乎与现实平行的世界；在这个过程中，它还发展出了AI的神经网络，因此可以生成进一步的思考，而这也可能是世界模型的基础，来制造实体AI。
我觉得这非常耐人寻味：我们思想和沟通的符号抽象，催生出一个世界的影像。然后这个影像反过来成为统治性的力量，变得比扎根本地的真实生活更真实、更有力量。
在AI时代，人类如何安身立命呢，我觉得应该珍惜我们的有限性。把AI设计成一种追求无限增长的东西，并从社会生活的肌理中脱离出来，沿着抽象、标准化的魔力推进，这就是危险所在。
有限性是非常重要的。比如今天我在这里发言，我对这场会议只有非常有限、局部的视角，而我认真对待自己的这种局部视角。但与此同时，我知道你们每一个人也都有非常片面但独特的视角。因此，我希望和你们一起拼出一幅图景。
如果有一个AI智能体穷尽式地提供关于这场会议的所有信息，那我会感到自己完全没有用，完全是多余的，也会担心这个公共空间将不再有生命。
理查德刚刚提到人类的本性是追求目标、创造事物。对此我不同意，但这也不完全是一个论证，而是一个讨论的起点。
我们并不设计阳光、月亮、空气，和水，也不设计此刻北京夏日里看起来如此美好的千万片树叶。它们看起来也许彼此相似，但我们知道，它们彼此并不相同，我们没有设计这些东西。
我觉得，人的美与智慧并不来自于我想要设计和创造什么，而是来自于我知道如何欣赏被给予之物，如何欣赏已经存在的东西，如何利用它，并且如何与之和谐共处。因此，也许这并不是设计时代，而是我们应该有意识地塑造一个共存的时代。
03
汪晖：感谢两位。这场对话非常睿智、非常精彩。首先想要问问理查德·萨顿教授，能否对刚才项飙老师的论点进行一些回应？
理查德·萨顿：谢谢给我这样的机会。我觉得他说得很对，我们现在正处于从复制到设计的过渡，还有很长的路要走。我们今天所说的AI不是真正的AI，它实际上更多的是一种自动化，关于AI最重大的变革还没有真正发生，而且很难预测什么时候会发生。
我们看到很多人呼吁要进行监管，我是拒绝的。我们作为知识分子的角色是什么？是否就是找出正确的规则，成为有智慧的人，做出决定，然后把这些决定传达给政府，再由政府去执行它们？这是我们的角色吗？我并不觉得这种方式会运作得很好。
我不认为世界实际上是通过中心化力量而改变的。它更像是通过分散的力量来实现发展的，通过我们所有人作出的个体决定，这些决定共同推动了社会的发展，我们的经济，以及令所有人惊叹的多样性以及专业化的发展。
真正发生作用的事情，是自下而上出现的，并不是通过政治家制定法律实施的，我觉得我们应该直接和公众对话，直接与其他知识分子对话，努力帮助人们理解正在发生的事是什么，并且引导人们应对，而不是试图强加任何特定的解释。
汪晖：现在有很多人在谈论要超越以人为中心的世界观，去思考自然、机器、数字世界等等。对于这种观点，项飙老师会如何回应？
项飙：我们当然要超越这个视角。一些社会科学家和人文学者提到过，人工智能本质上是一种环境智能或者连接智能，它只是众多事物之间建立联系的一种方式，并不像标准的学习机器那样可以思考。比如大语言模型汇集了很多历史上形成的、现存并不断积累的符号和文本，然后再将它们与人类的问题和关切联系起来，因此ChatGPT这样的聊天对话才得以发生。
在这样的图景中，一个非常有意思的视角是，人类、机器、非人类生命，以及无生命的自然界，都成为了同一个网络的一部分。但这又引出了另一个问题，即这是否构成了一个值得讨论的议题？
对于大多数人来说，每天早晨醒来后，都要面对许多现实而具体的问题，比如要不要辞职，这些焦虑的情绪。而这种焦虑首先需要在具体的社会情境中被理解和探究，不是由我们代替他们完成，而是需要他们自己去面对。
与此同时，我认为许多人也正在发展一种更广阔的视野。这并不只是哲学家在做的事情。这种更广阔的视野，也许能够帮助我们获得一种"超越人类"的视角。
理查德·萨顿：请问项飙教授，科学家有没有可能理解人的心灵（will scientists ever understand the human mind）?
项飙：这是一个非常有意思的问题，这个问题可能永远都回答不了，我们可以把这类问题保留为重要问题，但是没有必要去解决。科学家了解人的大脑、神经系统，但是大脑和心灵不一样。心灵会包含遗忘、半遗忘、碎片化的记忆、一些梦境，它以一种奇特的方式呈现出来。我不知道这个是否可以完全被理解，比如"红色"，说到这个我马上觉得它是一种危险，它是一种主观感受，这也是心灵的一部分，但它是不是可以用科学去捕捉，我不知道。
理查德·萨顿：我们可以说人类的心灵是一种机器吗（human mind is a machine）？
项飙：David Chalmers提出了意识方面的"简单问题"和"困难问题"。[2] 简单的问题就是理解机器和其运作机制，但是很难去解释为什么人类会产生主观体验。例如，你可以训练一个大脑去识别什么是红色，通过各种测量和信息来解释为什么看到红色。但是对于人类而言，看到红色本身是另一回事。这就是所谓的"感质（qualia）"问题。
理查德·萨顿：好的，让我来解释一个基本前提。我认为几乎每一个AI研究者都认同，人脑是机器。如果我们能够尽可能深入理解它，那么就能制造出性能更高的东西，在我们关心的各方面都表现更好。我们现在讨论的是终极问题，从这个前提出发似乎是一个不错的出发点。
人类的天赋让我们能够理解物理系统、复制它并不断改进。而这正是我们所参与其中的最终命运（ultimate fate）的一部分。我们属于生命的一部分，也属于社会的一部分。这些事物实蕴含着极其丰富的知识与精神内涵。
我们不应该把注意力集中在当前的 ChatGPT 与人类有哪些差异上。因为人工智能研究从一开始就在尝试理解并复制人类智能。即便目前还没有完全成功，这项事业的目标始终是创造出能够达到人类水平、并最终超越人类能力的智能系统。
汪晖：让我们来谈一下恐惧。项飙教授也提到了他的一些担忧，并不是对技术的恐惧，而是对社会关系以及涉及到经济、政治、安全方面的担忧。所以我想问萨顿教授关于设计时代的想法，你在这样的时代能否发展出某种方式，来克服过去这样的一些问题？
理查德·萨顿：这些确实是我们社会面临的挑战，如何和平地共同生活仍然是一个挑战。你提到的那种恐惧，我觉得很多时候其实是有人在试图让你感到害怕，好让你把控制权交给政府、机构或者大型公司。关于安全的许多讨论，本质上就是通过煽动恐惧，来获取控制权。
我们需要做的事情恰恰相反。我们应该保持去中心化（decentralized），不把权力集中到少数权威机构手中。因为最严重、最危险的控制恰恰可能来自那里。如果出现某些集中的权威机构，它们掌控了所有智能系统，并将这些能力整合进军事算法之中，或者用于监控和控制自己的公民。这是我们希望避免的反乌托邦（dystopia）。
观众提问：谢谢理查德，您的观点已经谈了很多年。你试图去描绘的愿景是理想的，是有人情味的，是去中心化的，但是权力的问题没有得到解决，尤其你是参与构建AI的人。我希望您能借此机会向我们说明，未来是否会存在权力的失衡，我们这些没有参与构建AI的人被告知AI即将到来的时候该何去何从呢？
理查德·萨顿：感谢您的问题。权力问题是非常棘手的，几千年、甚至上万年来，人类社会和文明一直在与这个问题打交道，对此我们应当始终保持警觉。我认为，个人以及较小规模的群体继续参与其中、并成为分散化权力结构的一部分非常重要。
你提到，像我这样的人或我所在的圈子，也许拥有更多权力，因为我们正在创造这些技术。我并不这么认为。我不认为像我这样的人才是真正值得担心的问题。除非我们试图保留控制权，以至于阻止你接触这些技术。为此，我投入了很多工作，希望人工智能研究能够以尽可能开放的方式开展，并向所有人开放。
人们往往容易感到自己没有力量（disempowered），没有意识到自己实际上拥有怎样的影响力。例如，我们今天看到的"炒作"（hype），本质上是企业在夸大当前系统的能力，夸大其重要性。他们希望把这些能力描述得比实际情况更强大，而恐惧也是这种夸大的组成部分。
今年不是决定性的一年，这个十年也未必是决定性的时候。真正重要的时刻，是当我们真正弄明白智能为何能够运作，以及如何复制这些功能的时候。今天我们其实还做不到这一点，我们还并不知道应该如何做到。大公司仿佛在暗示我们已经掌握了答案，但事实上并非如此。
ChatGPT 之所以产生如此巨大的影响，就是因为普通人终于能够亲自使用它。人们第一次切身体会到 AI 可能是什么样子，以及它未来可能变成什么样子。我希望大家意识到，"第一次接触"（first contact）的时刻非常重要，人们可能会感到害怕，但如果大家能够更加了解情况，更加明智，也更加谦逊，那么当真正的 AI 时代到来时，我们就有机会得到更好的结果。
你不必接受自己被边缘化了这种观点。你必须参与决策，你必须承担起这样的责任来，在思想上参与到这项议题中，你必须看清楚究竟发生了什么，不影响相信那些炒作。
观众提问：我们都知道AI的智能会增加，但是人脑的智能是在下降的，这个很简单，如果你不用肌肉就会失去肌肉。我们现在的能力、智力在下降，我们怎么保持人性？
理查德·萨顿：我经常会告诉大家，你有选择的权力，你有偷懒的权力，选择走进那个"温和的良夜"（good night），把事情交给机器，把你的事务交给政府或者其他人处理。当然，你也可以选择积极充分参与。
自动化（automation）并不是什么新鲜事，机器承担越来越多工作所带来的困境也不是什么新问题。假如你身边有其他人愿意为你工作，替你思考，那么你是不是就再也不用动脑了？再进一步说，但果你变得富有，你会不会因为不用劳动自然停止思考，变得肥胖懒惰？或者，一旦你拥有更多资源时，反而会做更多事？
归根结底，AI的出现其实是对我们社会的考验，考验着我们将如何应对。当恐惧来临，我们的思维是否会变得迟钝、软弱？还是会反过来，认为这是一种新工具，能帮助我们更好地思考，使我们会变得更聪明、更强大？
项飙：我对这个问题感触也很深。我的一位同事在广州的大学从事教学工作，他惊讶地发现如今18到22岁的这些学生，已经无法听讲，不管老师如何备课，他们总在做其他的东西。当然，这种现象并不难理解。因为倾听本身需要一种能力，需要你全身心投入。每一个词都只是一个声音，你必须耐心等待这些声音逐渐汇聚在一起，然后意义才会浮现出来。然后继续听下去，才会逐渐感受到表达中的细微差别，并开始揣摩说话者真正想表达什么，以及他的话语背后是否存在某种不确定性或张力。
这种变化当然不完全是由AI造成的，它更早就开始于社交媒体和快速传播的信息环境。如今AI进一步提供了即时答案，人们越来越不需要等待和思考，学生们也正在失去坚持分析、批判和独立判断的肌肉。
我们确实需要认真讨论人工智能教育的问题，也需要讨论AI对研究和就业所带来的影响，以及它如何改变我们的环境。
如今许多年轻学者甚至不再与同事深入交流。为什么呢？因为当你有一个想法时，你可以直接与人工智能互动，而AI能够帮助你比同事更快地生成文章。于是，整个学术文化都在发生变化。