谷歌秘密研发Frozen芯片,AI算力效率将提升十倍
根据两位内部消息人士的说法,谷歌(352.385, 6.26, 1.81%)正秘密开发一款新型服务器处理器,能将Gemini大模型的核心框架直接嵌入芯片硬件,从而显著加速面向用户的AI服务响应速度。
这款内部命名为Frozen v2的处理器,目标是缓解谷歌当前面临的严重AI计算资源短缺。算力不足已导致内部资源争夺,甚至迫使谷歌云婉拒了不少外部客户的合作请求。消息人士透露,研发团队预估,该芯片正式投入使用后,每单位能耗可处理的词元(Token)量,会比谷歌现有自研AI芯片最新一代产品高出6至10倍,能效实现突破性增长。
“Frozen”这个代号的含义,源自其关键设计理念:将大模型的部分运算流程永久嵌入硅片硬件。工程师们还在确定这款芯片的核心功能块,以及各个组件如何协同运作。消息人士称,谷歌计划最早在2028年部署该芯片。
Frozen项目意在开创一条全新的自研处理器产品线,与谷歌现有的张量处理器(TPU)形成配合,而不是替代它。当前主流的AI芯片——英伟达GPU,以及谷歌的TPU,都属于通用型芯片,能够兼容多种不同的大模型。但通用芯片在运行任何模型时,都需要实时进行大量耗时的逻辑判断;而Frozen v2则直接内嵌适配Gemini系列模型的底层运算逻辑,可以大幅削减芯片的运算步骤和数据传输量。
其中一位消息人士表示,这款专用芯片能够更快地回应用户提问,有望支持谷歌开拓全新的AI应用领域。但该芯片也意味着谷歌押注自身会持续沿用当前Gemini大模型的基础架构:只有后续迭代的Gemini模型采用与芯片设计时相同的底层架构,才能在该芯片上顺利运行。
消息人士补充说,谷歌仍然可以对芯片进行迭代升级,包括更新内嵌的模型权重(权重是决定模型如何应答的核心参数设置)。
谷歌官方发言人对外回应称:公司各团队“不断研发、测试各种创新技术,力求为用户和企业客户实现最优性能与能效”。
发言人补充道:“并非所有研发项目都会投入量产,但这种全面的技术探索,是我们全栈自研技术路线的核心组成部分。”
推理芯片为何成为行业热点
包括Samba Nova、d-Matrix等初创公司,以及OpenAI、微软(402.1, 8.28, 2.10%)等科技巨头,都在开发AI推理芯片——也就是专门用于大模型对外提供服务的计算硬件。各家的目标都是实现超越英伟达GPU的推理能效,缓解算力紧张、降低运营成本。英伟达自身也在去年12月斥资200亿美元,收购推理芯片厂商Groq的技术授权。
行业各家的技术路径与谷歌Frozen方案有所区别,但Frozen v2的设计思路,与加拿大芯片初创公司Taalas高度类似:后者同样选择将特定大模型的逻辑硬编码到芯片内部。Taalas已完成超2亿美元融资,投资方包括Quiet Capital、富达投资。
Frozen v2的研发迭代自初代Frozen方案而来。初代方案由谷歌DeepMind首席科学家杰夫·迪恩主导,计划直接将完整模型权重蚀刻进芯片。但该方案存在明显缺陷:芯片只能适配单一版本的Gemini,硬件生命周期极短,因此搁置多年。
另一位消息人士透露,谷歌仍在权衡Frozen v2芯片固化多少模型信息,以此平衡硬件灵活性与运行能效。
谷歌自研芯片的布局至今已收获成效。今年谷歌推出第八代TPU,并直接面向云客户推广,正面挑战英伟达的垄断市场份额。谷歌已与Meta签署数十亿美元大单,向其出租TPU算力,同时试图将TPU供货给英伟达的核心云厂商客户。
自研AI芯片、不完全依赖英伟达GPU,已经帮谷歌降低了Gemini模型的运行成本——谷歌在设计TPU时便围绕Gemini做了优化,只是TPU内嵌的模型信息远少于Frozen系列芯片。
谷歌暂无计划大规模量产Frozen v2,产能规模将远低于TPU。消息人士表示,这款芯片量产规模有限,谷歌可延后引入外部设计、代工合作伙伴;同时谷歌将这一代产品视作技术试验平台,待大模型底层架构趋于稳定后,为研发更高专用化芯片积累工程经验。
责任编辑:刘明亮
新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。
