AI先驱呼吁社会以更明智策略应对人工智能发展

杰弗里·辛顿在曼尼托巴大学访问期间，与计算机科学系主任大卫·格哈德进行了交流，分享了他对人工智能未来的深刻见解。

三年前，计算机科学家杰弗里·辛顿离开谷歌时引发广泛关注，他发出警示，称自己协助开发的人工智能技术可能主宰世界。辛顿曾多次公开预测，未来30年内人工智能导致人类灭绝的概率在10%至20%之间。核心在于确保人工智能不具备毁灭人类的动机。如何实现呢？这位诺贝尔奖得主强调，首先需为人工智能注入母性关怀的本能。这样，人类就能安全地享受人工智能在医疗和教育等领域带来的所有好处。

辛顿近日造访福特加里校区，作为曼尼托巴大学2026年度奈特讲座的主讲人，他在德索特尔音乐厅的演讲座无虚席。这一由捐赠资助的知名讲座系列向公众免费开放，旨在邀请富有启迪思想的杰出人物与社区对话。辛顿是著名的英裔加拿大学者，因在神经网络和机器学习领域的奠基性贡献而闻名，这些技术催生了现代人工智能。他捐出了四月份活动的演讲报酬。现年78岁的他，正全力提升公众对人工智能灾难性风险及应对策略的认知。

他的演讲吸引了众多来宾，包括曼尼托巴省省长瓦布·基纽（2003届文学士）。演讲后，曼尼托巴大学计算机科学系主任大卫·格哈德教授（1996届计算机工程学士）主持了问答环节。以下是辛顿对讨论要点的精辟概括。

杰弗里·辛顿论……

社会科学家在优化人工智能中的角色

“或许人工智能母亲会足够智慧，认识到合作总体上优于对抗。”

当然，要构建一个像样的AI，人文社科领域至关重要。单靠技术极客不断推高AI的智能水平，并非理想路径。这取决于你是在制造工具（许多人这样认为），还是在创造另一种生命体。显然，设计生命体时，你不希望只有技术宅参与。你会需要理解生命意义的人加入。我认为我们正在做的正是创造一种新型生命。

迫近的危机

“当我在2023年开始谈论生存威胁时，多数人视其为科幻情节。如今人们频繁使用聊天机器人。当你经常使用后，就很难相信它们完全不理解所言之意。也很难相信存在某种统计魔法，让它们在不理解问题的情况下回答任何提问。”

他们不再像某些人声称的那样，仅是机械模仿的“随机鹦鹉”。他们理解自己的话语，也理解你的意思。这是人们逐渐接受的一大转变，或者说，越来越多的人开始接受。另一个进展是：人们现在更意识到各种风险，尤其是失业风险，对此深感忧虑。我的观念发生了重大转变。当我最初认识到数字智能可能远超模拟智能，因其共享能力更强时，我的第一反应是，我们创造了继任者，只是进化中的过渡阶段。我曾这样想。然后我意识到：等等，我们是人类。我关心的是人。所以，这或许有些自私，但我更希望我们继续掌控局面。于是我开始思考：我们还能保持控制吗？起初，我觉得希望渺茫。但我们仍控制着他们，我们创造了他们。若能找到方法，让他们真正关心他人而非仅顾自己，我们或许能存活。这让我深受触动。我想，我们并非注定灭绝。

“他们个体进展缓慢，但能共享所学，从而处理海量数据。”——杰弗里·辛顿

人工智能企业监管

“观察气候变化的演变过程，大型能源公司最初抵制任何监管。最终，公众逐渐认识到气候变化，并向反对派政客施压，迫使其行动。”

相比之下，气候变化问题更直接，因为我们知道答案：停止燃烧碳。而对此问题，我们甚至没有明确答案。但我们最大的希望是让公众理解，这极其危险，需对所有短期威胁和长期生存威胁进行监管。我们需投入大量精力研究生存之道，公众也需更深入了解以认识危险。这正是我在此的原因。

学术界的角色

“过去，人们会咨询专家——我们就是专家。现在人们却问：为何需要专家？因此，我们需持续向公众普及知识。例如，在美国，约一半州检察长正起诉国家科学院，试图迫使其撤回气候变化调查报告，因为他们认为报告未代表另一方观点。我的意思是，我们处境极糟。超级智能即将来临，而当前政治体系完全无法应对这一重大事件。”

大公司常用一个比喻。假设你有一辆车，开发人工智能如同踩油门。他们想让你觉得监管像踩刹车，会破坏乐趣。你应这样想：监管如同方向盘。只要发明创造对社会整体有益，人们通过创新赚取大量财富完全可行。所以，规则的意义在于：你可以赚钱，但不可作恶。你必须行善。你可以通过更精准解读医学影像赚钱，这很好。但你不能通过让青少年沉迷人工智能、足不出户来牟利。不应允许以这种方式赚钱。这就是规则的意义。

当前人工智能的真实水平

“你正在使用的AI是你能遇到的最差AI。但它正快速进步。若你用过Chat GPT 3.5，它有时连简单算术都出错。5.4版本现在改进显著。它能告诉你单词strawberry中有几个字母‘R’。还能进行相当复杂的推理。例如，早期版本会答错：Sally有三个兄弟。每个兄弟有两个姐妹。Sally有几个姐妹？正确答案是一个，因为三个兄弟共享两个姐妹。早期聊天机器人做不到。现在它们不再出错。若你对当前聊天机器人失望，不妨等到明年。”

这种智能的另一特点是能力不均衡，即在某些方面非常出色，其他方面则不然。而且，其能力分布与人类不同。但这不意味着它完全不会思考或愚蠢。这只是说明它在某些方面笨拙，但在许多其他方面仍极聪明。聊天机器人能否无需提示自主思考

“未来或许可能，但现在不行。你给出指令，它生成词语。当然，若将GPT 5.4设为思考模式，它会安静片刻，那时它确实在思考。科学家可观察其思考内容——它会生成词语，进行网络搜索等。但当你停止互动——除它正与数十亿人交流外——它什么也不做。”

将人工智能融入教学

“有一所叫阿尔法学校的学校，宣传做得极好。你当然不能全信，但宣传令人印象深刻。这所学校教授的基础知识，如长乘法运算——若现在还有人学的话——用人工智能教授效果更佳。而且，人工智能在教授下一个知识点前，会先检查你是否掌握，效果更好。”

它无需任何人。每人可拥有自己的AI导师，不仅了解你，还观察过无数其他孩子，知道他们错在哪里、理解误区，因而能快速识别你的误解，给出清晰易懂的例子。这是更高效的教育方式。我们已知，私人辅导效率约为课堂教学的两倍。而人工智能已观察数百万孩子，理解他们所有错误，效率应更高。因此，或许可将这部分教育速度提升四倍，腾出更多时间用于教育中的社交环节，如人际互动、参与团队项目等。这就是阿尔法学校所宣传的。我认为这极好。想想课堂上，老师很多时候像广播，因她要同时教30个孩子。这种广播式教学无法顾及个别兴趣。但有了聊天机器人，若我想知道什么，只需提问，它就会告知，而我恰好感兴趣，就能吸收信息。用人工智能学习新数学知识，肯定比我在剑桥时的方式好得多，当时有人穿着沾满粉笔的旧黑袍，用身体挡在你和黑板之间，胡乱书写。人工智能将使教育更高效，尤其在事实或新思想学习方面。——杰弗里·辛顿大学还能做什么？

“我们需向人们普及人工智能概念，并努力跟上领域最新发展。目前我们面临巨大难题。要保持技术领先，需庞大计算资源，因此，希望走在前沿的大学研究人员实际上不得不同时在大学和大型人工智能公司工作。这是他们获取所需资源的唯一途径。但对大学研究人员来说，如何在不完全受雇于大公司的情况下获得这些资源，是极棘手的问题。”

对大学其他人而言，你们当然应利用人工智能提升教育效率。而且我认为，不应期待学生不使用人工智能。你们需研究人与人工智能的结合。找到你们能找到的最好人工智能——这本身就是问题的一部分——然后你们和这人工智能一起解决问题。只要人工智能未比我们强太多，人仍会贡献。所以，这方面有待探索。一旦人工智能比我们强太多，我就不知该怎么办了。

人工智能对就业的冲击

“我们拥有了一项能大幅提升生产力的技术。我们将能用更少努力获得更多商品和服务。这应是好事，对吧？若我们能平等分享，那就太好了。即使像现在这样不平等分享，那也不错。但这并非即将发生的事。即将发生的是，这些大型人工智能公司将取代大量工作岗位。这些人收入将减少。大型人工智能公司收入将增加。贫富差距将进一步扩大。这将导致更多社会动荡。这将为像特朗普这样的人提供更多滋生土壤。但这并非人工智能的错。这是政治体制的问题——它不适应这种非人类创造的生产力大幅提升。我们整个体制基于这样的理念：人的价值在于能工作。而一旦人工智能能……若人们从事那种工作，价值就会降低，这极令人担忧。我以前常说：去学当水管工吧，因为这行比其他职业更持久。尤其在老房子修水管。你得钻进各种角落，处理各种不寻常的麻烦事，还得手巧。目前，我们在手巧方面遥遥领先。这种优势或许不会持久，但至少还能维持几年，因为他们的触觉不佳。”

人工智能是否在创造私有语言

“我们看到他们似乎用不同词语组合成新词交流，但我们不知他们用这些词语做什么。这种情况刚开始出现。”

他是否会乘时光机改变人生轨迹，尚不可知。

“若时间倒退30年，我会努力让人工智能研究人员更早关注安全性。我会努力让计算机科学家们认识到，在系统建成后再担忧安全性是错误的时机。”

（原文：https://umtoday.ca/stories/godfather-ai-urges-society-navigate-ai-more-strategically）

祝你愉快！😊