华尔街重新审视AI成本：内存带宽成新焦点

一家不涉足大模型研发的韩国存储企业，近期以ADR形式在纳斯达克完成约265亿美元融资，上市首日涨幅约13%。这家公司正是SK海力士，主营产品HBM——专为AI芯片设计的高带宽存储器。（ADR指外国企业在美股交易的凭证，便于美国投资者买卖。）以往计算AI开支时，市场目光多聚焦于英伟达GPU的天价标签。此番华尔街愿意买单的，是账本的另一侧：存储带宽是否足够迅捷，能否及时将数据输送至GPU。

SK海力士平日的业务听起来并不惊艳——智能手机、电脑、服务器中的内存模组，市面上常见其产品。这类业务还有个特点：周期性显著，景气时获利丰厚，低迷时亏损严重，盈亏全凭市场供需变化。存储企业在资本市场向来不受青睐，估值难以上调，故事也难以讲好。

然而这次它在美国募集约265亿美元，上市首日股价涨幅约13%。一家存储企业被当作AI概念的核心标的遭到抢购，本身就足够异常。市场愿意给出这个价位，看重的是其掌握的HBM——这几年AI芯片领域最抢手的原材料。市场盘算的逻辑很直接：只要AI基础设施持续扩建，HBM的供不应求和提前锁定的订单就会持续被定价。目前AI企业仍在扩充数据中心、下单采购芯片，配套内存被提前锁定，这个价位自然有人接手。

AI大模型的训练与推理，依赖GPU这类芯片完成海量运算。但芯片算力再强，仍需持续将数据输送至其面前。一个大模型包含海量参数，运行时要反复读取这些参数；数据传输缓慢，再昂贵的GPU也只能空转，利用率无法提升——相当于高价购入设备，却让它闲置一半时间。

HBM正是缩短这段等待时间的关键。它将存储单元层层堆叠，紧邻GPU封装在一起，用极宽的通道灌入数据。打个不太准确但形象的比喻：GPU如同食量惊人的大胃王，HBM就是那条传菜的流水线。菜品做得再多，传菜通道太窄，食客依然要饿着。

训练与推理都消耗带宽。训练时需将海量数据反复输入模型以调整参数，推理时用户每提出一个问题，模型也要重新读取相关参数再输出答案。使用人数越多、询问越频繁，这条通道的压力就越大。

当前AI模型规模不断膨胀，大胃王的饭量成倍增长。能否喂饱，越来越取决于这条通道有多宽敞。英伟达最昂贵的AI芯片旁，都需配备一圈HBM，一块加速器上叠加多摞存储，已成为标准配置。GPU决定算力的上限，HBM决定这个上限能否被充分利用。两者是捆绑销售的。

前两年谈论AI基础设施烧钱，主角始终是GPU：谁抢到了芯片、谁囤积了多少、单价被炒到多高。芯片确实是硬通货。但华尔街此番给SK海力士的定价，遗漏了一笔账——带宽也在涨价，且已成为硬性约束。

HBM的制造难度极高。将存储单元层层堆高，再与GPU封装结合，工艺复杂，良品率一时难以提升，废品率高是常态，成本难以降低。能大规模量产此类存储、又跟上最新标准的厂商，全球仅有三家。供给如此有限，需求又被AI持续拉高，价格自然坚挺。更实际的是，模型越大，单块加速器所需的HBM越多，这块材料在整机成本中的占比逐年上升。AI基础设施这笔账，仅计算GPU采购价，已经算不完整了。

存储这道关卡，也在悄然改变上游的战略。带宽与显存一旦紧张，不少团队开始思考如何让模型更精简、更高效，使其在有限的存储中也能运行——这也是近年来"小模型""开源模型"话题升温的背景之一。原料昂贵，逼着人们重新审视"一个模型究竟该做多大"。

我不打算在此判断这只股票是否值得投资。更值得关注的是，市场愿意为"存储带宽"单独支付溢价，说明AI的瓶颈正在转移——从"是否有足够的算力"，逐步转向"算力能否被充分投喂"。

如果你在研究AI产业链的成本结构，做模型的和做GPU的容易占据你大部分视线。往上游再看一层，给AI芯片配存储、配带宽的环节，同样卡着一道窄门，谁掌握这道门，谁就有议价的资本。这道窄门不像抢GPU那样频繁登上头条，却同样能决定谁能按时建成算力集群、谁只能干等发货。

如果你曾被AI账单困扰过——比如想搞清算力为何如此昂贵、为何如此难买——原因中还需加上一条：不仅GPU稀缺，能匹配GPU的存储同样稀缺。带宽这堵墙，短期内无法绕过，砸钱也得排队等产能。

一家韩国存储企业在美股上市那天，把原本隐藏在机箱内的事情摆到了台面上。AI烧的钱，账面上最显眼的是"算"，但"把数据喂进去"这件不起眼的事，同样在消耗资源，且模型越大、使用人数越多，这半边账只会越来越重。

如果你身边也有人把AI的成本全算在GPU头上，把这篇转给他，账能算得更全一点。