标签

GPU堆积策略式微,算力优化引领AI新赛局

发布时间:2026-07-17 08:49阅读:2

实习记者 尹靖霏

人工智能算力的角逐逻辑,正经历松动与变革。

此前两年,行业陷入GPU囤积竞赛,谁持卡多、集群规模大,谁便能抢占优势。如今,这套“以量取胜”的规则逐渐失效——在词元(Token)计费体系下,模式从“售卖硬件”转向“提供Token”,堆积硬件的边际收益递减,效率随之成为新竞技场。

7月初,京算Token工厂启动运营,同时,趋境科技半年内累计融资逾10亿元。前者标志着算力供给迈向规范化,后者反映出优化技术受资本青睐。两条线索指向同一趋势:算力优化正从边缘走向核心,成为左右企业盈利、重构国产算力版图的关键要素。

然而,芯片架构分散化、全栈人才短缺、集群稳定性不足等难题依然突出,行业尚未建立标准化体系,算力软实力的长久竞赛才刚拉开帷幕。

规则演变:

优化压倒堆卡

国内算力市场长期由海外势力主导,按卡/时长计费,客户选型侧重单卡峰值性能、CUDA生态完备度,英伟达借此构筑垄断。作为企业级AI平台企业,范式智能首席战略官兼副总裁曾慈雯向证券时报记者指出,国产芯片虽在成本、供应、异构部署灵活性上具优势,但因生态短板沦为备选项,难以切入核心领域。

Token计费模式的推广,正颠覆这套延续多年的评判标准。

“Token模式的实质,是算力从销售硬件转为交付结果。”曾慈雯坦承,全新规则下,客户不再为硬件指标付费,核心衡量标准变为单Token交付成本、有效产出效率、服务稳定性,而底层硬件的品牌、性能差异重要性下降。

这套规则转变,直接激活国产算力的独特优势。

曾慈雯表示,国产芯片无需再硬拼单卡峰值短板,凭借硬件成本优势,结合全栈算力优化技术提升集群整体吞吐力,便可实现优于海外产品的性价比,顺利进入此前无法触及的核心应用场景。

曾慈雯向证券时报记者透露,这场变革为国产算力开辟机遇:跳出海外定义的硬件“内耗”赛道、推动国产软硬件生态体系化成熟;降低中小企业算力使用门槛;挖掘海量下沉市场增量。而AI产业发展的下一阶段,在于促进AI能力迈向普适化。算力优化和基础设施能力的成熟,将成为驱动AI普适化的重要支柱。

国产芯片的成本优势向Token生产优势转化,关键在于算力优化而非硬件参数,市场已给出最直接反馈。

2026年,AI行业迎来商业转折点:Token业务开始盈利。

是石科技正打造全国最大的“Token优化工厂”,公司联合创始人毛运航向证券时报记者表示:去年算力优化仅为小众技术探索,即便提升10%的效率,也无法扭转总体亏损局面。但今年,C端、B端AI推理应用集中涌现,API付费模式打通,大模型推理赛道整体跨过只有投入未见产出的阶段。

在毛运航看来,盈利逻辑逐步确立,使算力优化从“锦上添花”变为“雪中送炭”。每一次效率提升、每一分成本缩减,都会直接反映在企业利润表上,这也是当前全行业愿为优化技术重金投入的主因。

毛运航分析,国产芯片存在工艺、产能、单卡代差、技术路线分散及生态碎片化等短板,适配难度高,需靠技术盘活算力,在商用场景中寻求成本效率最优方案,实现国产算力商业化突破。

格局重塑:

第三方AI Infra崛起

头部芯片厂商软件架构师向证券时报记者表示,市场普遍存在误解,认为算力优化仅针对显卡算子,而实际产业中的专业优化是端到端、全层级的系统工程,涵盖NPU/GPU、CPU、存储、网络、操作系统、算子算法等全链路。

随着算力优化赛道价值爆发,产业参与者已呈全面铺开态势,芯片厂商、云厂商、运营商、大模型企业、第三方AI Infra(人工智能基础设施)同台竞技,形成分层互补的产业格局。

证券时报记者获悉,某头部国产芯片厂商组建千人级优化团队,专注自有硬件的底层适配与基础生态建设。各大模型企业也标配专属优化团队,服务自有模型迭代,持续降低训练、推理成本。手握大规模算力集群的云厂商、运营商,将算力利用率、Token产出效率作为核心经营指标,通过优化盘活重资产。

传统算力优化聚焦硬件集群层面,是超算时代延续至今的基础技术能力。而Token优化的兴起,是2026年AI产业的全新变量,核心源于行业商业模式的彻底反转。独立第三方AI Infra公司的快速崛起,在其中扮演关键角色。2023年至2024年上半年,清程极智、硅基流动、无问芯穹、趋境科技等公司相继成立,并在此后完成多轮融资;是石科技2026年完成数亿元融资,硅基流动已向港交所提交上市申请,当前估值约77亿元。

从操作路径看,第三方Infra公司普遍遵循类似的技术架构:基础层做异构算力统一管理;核心优化层自研推理引擎,覆盖算子开发、键值缓存等专项优化;调度层实现动态负载分配和集群混部;顶层提供标准化API和多模型统一接入。

2023年是AI Infra赛道的产业化转折点。星连资本押中智谱、硅基流动等多家AI Infra独角兽企业,其合伙人王璞向证券时报记者表示,这一创业潮发生在2023年10月美国对华芯片出口管制升级后,国产芯片供给成为常态性制约,如何用更少的芯片训练出更强的模型成为行业最紧迫命题。

第三方Infra公司核心优势在于“中立性”。王璞表示,大厂自研团队无法覆盖市场碎片化需求,大量中小算力服务商涌入Token市场,跨芯片、跨模型的通用适配、优化和调度需求集中爆发,第三方公司凭借专业化服务填补市场空白。

毛运航分析,不同于大厂(生态绑定)、模型公司(重算法轻基建),第三方Infra公司搭建起“硬件适配—全栈优化—智能调度—标准化服务”的完整链路,使算力利用率跃升,Token生产成本骤降。

曾慈雯认为:“现在市场的注意力集中在芯片、大模型、云厂商这些显性环节,但真正决定Token经济运行效率的是中间层——谁能把分散、异构、碎片化的算力转化为稳定、标准化的Token产能,谁就掌握核心生产力。”

王璞预判未来一两年将出现三个变化:上游纯硬件溢价逐步回落;中间转化层的价值占比快速提升;垂直场景的应用与模型方拿到更多增量价值。毛运航判断,第三方AI Infra头部壁垒成型,新玩家窗口收窄,未来细分赛道将呈现寡头垄断格局。

瓶颈与突破:

优化的硬仗才刚揭幕

赛道火热,挑战同样严峻。这些挑战,既有行业层面的共性难题,也有新玩家特有的生存风险。

对于新兴的第三方AI Infra公司而言,面临的另一重挑战是“技术自嗨”,毛运航直言,过度专注技术攻坚,却忽略商业化节奏,“先驱”容易变成“先烈”。

曾慈雯将行业普遍存在的挑战归纳为四大难题:国产芯片架构碎片化,每款硬件都需要定制化底层适配,试错成本极高;全栈优化门槛高,需要打通软硬件全链路,复合型团队稀缺;场景化优化难以复制,不同业务的优化逻辑完全不同,需要长期沉淀方法论;大规模异构集群的动态调度复杂度呈指数级上升,对工程化能力要求极高。

就人才方面而言,清程极智联合创始人师天麾向证券时报记者表示,全栈算力优化属于高门槛交叉学科,需要同时精通硬件架构、底层系统、网络通信、大模型算法,培养周期极长。此前赛道小众、商业价值未显现,人才储备长期匮乏。不同于算法赛道的高薪热门,高性能计算方向资深工程人才“一将难求”。

此外,底层产业生态仍有明显短板。

前述芯片架构师表示,英伟达凭借全球用户生态实现快速迭代与缺陷修复,国产卡用户基数有限,迭代节奏慢,驱动层bug(漏洞)在规模化部署中仍属常见现象。

师天麾表示,各芯片厂商底层接口开放程度不一,行业暂无统一标准,优化深度高度依赖底层编程接口的开放层级,部分厂商开放有限,压缩了优化空间。不过,华为昇腾近年在开放程度上已有明显改善,反映产业共识正在形成。在硬件层面,国产大规模集群的运行稳定性不足,单卡故障易引发连锁问题,万卡级别集群落地难度较高,难以通过规模效应进一步摊薄Token生产成本。

挑战即机遇,算力优化与AI Infra正以Token产能改写格局,推动国产算力从硬件替代迈向生态自主,开启软科技长牛。