AI元老杨立昆:LLM路径已误入歧途,行业因盲目跟风陷入竞赛陷阱,他为何离开Meta?
👇关注后设🌟星标,获取第一手AI新动态
本文内容整理自Yann LeCun(杨立昆)在Unsupervised Learning: With Jacob Effron频道的专访,讨论了Yann LeCun对当前AI发展的看法。原始内容参考:https://www.youtube.com/watch?v=ngBraLDqzdI
Yann LeCun(杨立昆)是著名AI科学家,图灵奖得主,被誉为“卷积神经网络之父”。他长期担任Meta(Facebook AI Research, FAIR)的首席AI科学家,主导了FAIR的辉煌研究时代。如今,他在独立运作的AMI Labs担任首席科学官,全身心专注于“世界模型”和JEPA架构的研究。他的终极目标是:让AI真正从现实世界中学习、理解和推理,彻底摆脱对纯语言数据的路径依赖。
图灵奖得主、前Meta首席AI科学家杨做客雅各布·埃弗伦(Jacob Effron)的播客。这场对话的核心聚焦于杨极具颠覆性的反共识论断:尽管大语言模型(LLM)是极具商业价值的产品,但它们在通往人类水平智能的道路上已经走入死胡同。核心原因在于,LLM无法预判自身行为的后果,无法进行长远规划,并且从根本上无法对混乱、高维的真实物理世界进行建模。
在访谈中,他详细拆解了自己提出的替代方案——JEPA(联合嵌入预测架构)。该架构通过学习抽象表征,而非生成低效的像素级预测来理解世界。他深刻解析了为什么这种方法对于机器人技术、工业应用,以及任何需要超越单纯“语言文字”层面运作的系统来说,都是不可或缺的。
此外,杨还首次揭秘了他离开Meta背后的真实内幕(与外界传闻相反,他对Llama模型其实没有任何技术层面的参与);分享了旨在打造主权开源AI的Tapestry项目的起源;阐述了为何他认为LLM存在本质上的不安全性;探讨了他在哪些核心理念上与图灵奖同侪辛顿(Hinton)和本希奥(Bengio)分道扬镳;并大胆预测:整个AI行业将在2027年初彻底醒悟,迎接这场范式的转变。
在整个访谈中,他坦诚地反思了大型科技巨头内部“基础研究与产品落地”之间的剧烈拉扯,以及他为何将AMI实验室的总部设在巴黎,且坚决不拿一分钱的硅谷风投。
主持人:您是人工智能教父之一。您如何看待目前人工智能的发展路径?
杨立昆:五年内实现全球的彻底统治。实现突破性研究的最佳途径就是:招募最顶尖的人才,然后别去碍手碍脚。原谅我爆粗口。
主持人:您与另外两位共同获得了图灵奖。您的观点是从何时开始产生分歧的?在2023年,您是如何确定离开Meta的时机的?听起来您似乎在很长一段时间里都在思考这些问题。*[注:此段为播客开场的混剪片段]*
杨立昆:外界对我的角色、我与FAIR(基础人工智能研究院)的关系,以及Meta内部是如何开展AI工作的,存在很大的误解。
主持人:过去一年里,您在哪些观点上改变了想法?
主持人:Yann LeCun被誉为人工智能教父之一,他是该领域绝对的传奇人物,也是我长期钦佩的对象。能邀请到他来到《无监督学习》(Unsupervised Learning) 节目,我感到非常荣幸。
他长期是大语言模型(LLM)的怀疑论者。我们深入探讨了LLM能做什么、不能做什么、他所看到的局限性,以及最终决定追求不同架构的原因。
我们还谈到了他在Meta的工作经历、他为建立FAIR所做出的贡献、过去几年的发展历程,以及最终是什么促使他的团队成员跳出原有框架,创立了Mistral AI。
我认为,了解Yann对于当前人工智能生态系统所发生的一切,以及基础研究与推动大语言模型发展之间的张力,还有他对整个领域未来走向的看法,是非常令人着迷的。
他是该领域的泰斗。创办这档播客时,我就希望能邀请到他这样的重量级嘉宾,所以这真是一次难得的机会。我相信听众们会很喜欢这次谈话。废话少说,让我们欢迎Yann。
Yann,非常荣幸能邀请到您。您是人工智能教父之一。我记得多年前刚开始做这档节目,就一直希望能邀请到像您这样的重量级嘉宾。
杨立昆:我不太喜欢这个称呼,因为我住在新泽西州。当你在新泽西被称为“教父”时,那意思可就完全不一样了。
主持人:非常有道理。您当初在所有人都不看好神经网络时选择押注于此,这本身就是一段传奇。而今天,您在某种程度上正以类似的方式,挑战当前备受推崇的大语言模型及主流的生成式架构。您最近还围绕这一主题成立了一个新团队。
我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们还想听听您对整个领域发展历程的见解,以及您在Meta的经历等等——这对于单期播客来说目标有点宏大。
我想从AMI(高级机器智能)开始,因为这个团队似乎最清晰地体现了您未来发展的技术构想。您在某种程度上正以类似的方式,挑战当前的生成式模型及主流的生成式架构。您在某种程度上正以类似的方式,挑战当前的生成式模型及主流的生成式架构。您在某种程度上正以类似的方式,挑战当前的生成式模型及主流的生成式架构。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们还想听听您对整个领域发展历程的见解,以及您在某种程度上正以类似的方式,挑战当前的生成式模型及主流的生成式架构。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们还想听听您对整个领域发展历程的见解,以及您在某种程度上正以类似的方式,挑战当前的生成式模型及主流的生成式架构。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在Tapestry的一些工作,以及为什么您认为该领域在某些生成式模型上走错了方向。我们今天的主旨是为听众带来关于AMI(高级机器智能)、您正在做的事情、您在TEpic的播客中,他坦诚地反思了大型科技巨头内部“基础研究与产品落地”之间的剧烈拉扯,以及他为何将AMI实验室的总部设在巴黎,且坚决不拿一分钱的硅谷风投。
杨立昆:外界对我的角色、我与FAIR(基础人工智能研究院)的关系,以及Meta内部是如何开展AI工作的,存在很大的误解。