标签

HBM之父金正浩:AI核心在内存,存储重塑算力格局

发布时间:2026-07-07 11:20阅读:2

在人工智能迅猛发展的浪潮中,行业长期以来将GPU奉为算力的绝对核心。然而,随着AI技术从训练阶段跨越至推理及智能体(Agentic AI)时代,一场关于计算架构的深刻变革正在悄然上演。

7月6日传来消息,被尊称为“HBM之父”的韩国科学技术院(KAIST)电气系教授金正浩在近期受访时强调,AI的核心竞争力正由GPU向内存转移。他断言,AI的本质在于内存,在当下的AI推理环节,GPU真正用于计算的时间仅占10%到30%。这一观点不仅揭示了当前AI硬件的底层瓶颈,更预示着未来存储芯片在AI应用领域将掀起颠覆性的变革。

算力重心的迁移:从“计算主导”转向“内存中心”

往昔,AI的发展高度倚重大模型训练,GPU凭借卓越的并行计算能力成为性能的决定性要素。然而,放眼当下与未来,AI正全面迈入推理时代。在此阶段,AI系统需处理海量多模态数据,执行复杂的多步骤任务。

金正浩指出,AI每次输出结果,皆须先从HBM(高带宽内存)读取数据、传输至GPU进行计算,再将结果回写至内存。这种传统的冯·诺依曼架构引发了严重的数据搬运瓶颈。即便部署百万块GPU,其大部分时间仍停留在等待数据的状态。

因此,决定AI性能上限的已非单纯计算速度,而是“单次能处理多少数据、能以多快速度处理数据”,内存能力已直接铸就了AI的性能天花板。

HBF的崛起:突破容量天花板的“数字图书馆”

为破解内存容量与带宽的瓶颈,HBM(高带宽内存)应运而生,它通过垂直堆叠DRAM芯片,将传统内存的“8车道高速公路”拓宽至1024乃至2048车道。

然而,随着多模态AI和Agentic AI的涌现,AI需24小时不间断运行,保存视频、文档、长期记忆等海量冷数据,内存需求将较当前激增千倍。仅凭HBM已难以满足此需求。

在此背景下,HBF(High Bandwidth Flash,高带宽闪存)成为下一代技术路线的必然选择。HBF将NAND闪存仿效HBM进行垂直堆叠。若将HBM比作置于桌旁供快速查阅的“参考书”,HBF则是容量庞大的“图书馆书架”。NAND闪存虽速度不及DRAM,但容量巨大、可长期保存数据,在推理场景中足以满足“冷数据”的存储诉求。

金正浩预测,十年后,HBF的市场需求将超越HBM。目前,SK海力士、三星、闪迪等企业正加速布局,HBF工程样片预计于2027年问世,并有望在2028年被英伟达、谷歌等行业巨头采纳。

终极形态:HBS与百层3D复合架构

在HBM与HBF之后,存储技术的演进并未止步。金正浩提出了更为前瞻的HBS(High Bandwidth SRAM)概念。SRAM的读写速度比DRAM快约千倍,但传统上因密度低、成本高,仅作为芯片内的小容量缓存。HBS的构想是将整张12英寸晶圆全部制成SRAM,并垂直堆叠12至16层,从而将容量扩展至1600GB,实现极致的高速数据处理。

基于这些技术,金正浩描绘了未来AI计算机的终极形态——一栋“100层3D大楼”。

在这座宏大的三维建筑中,GPU被置于顶层负责散热与计算;HBM充当“商场”,提供高速数据吞吐;HBF作为“住宅区”,提供海量长期存储;HBS则承担极速缓存功能。

各类形态的存储芯片组合在一起,形成复合体,源源不断地向GPU供给数据。这种内存中心化(Memory-Centric)的架构,将彻底颠覆传统以CPU/GPU为核心的计算范式,GPU最终可能沦为嵌入内存系统中的普通零部件。

不过,百层“3D大楼”结构存储芯片的产业化之路并非坦途。这条技术路线最大的工程挑战不在于计算,而在于供电与散热。要为GPU和堆叠内存供应数千安培的电流,电力供应网络的设计将成为最难的技术壁垒,也将成为企业间真正的核心竞争力。

责编:Jimmy

THE END