AI生态合力推进词元成本优化与效率提升
记者在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)上观察到,随着智能代理引发词元使用量激增,降低词元成本成为行业焦点。从芯片到计算与电力协同,从大型模型到智能路由方案,各环节均在努力削减词元开销。
目前,国内算力芯片创业领域,张量处理单元(TPU)正成为热点方向。在大规模纯张量AI训练或推理场景中,最新一代TPU的能效和单位词元成本均胜过主流GPU方案。
TPU芯片企业昊芯英的创始人杨龚轶凡指出,将百万词元成本压至最低是当前优化目标,因为高昂算力费用已阻碍AI技术落地。公司新一代产品旨在大幅降低单位词元成本,较上一代直接减半,后续升级有望降至原来的十分之一。唯有成本下降,各类AI应用才能广泛普及。
算力中心的成本从根源上影响着词元价格。2026年政府工作报告首次提出“算电协同”,对此,中科类脑董事长刘海峰表示,算力设施全周期成本中,电力支出占比超过20%,是决定产业竞争力的关键因素。以千P标准算力集群为例,年耗电量约两千万度,通过平台优化可节省20%电量,即每年减少四百万度电力消耗,节约的费用直接转为经营利润,显著增强价格优势。
关于算电协同降本增效路径,刘海峰表示,当前主要依赖物理位置接近,未来重点则是实现算力与电力双向弹性调度。例如通过整合风电、光伏、储能多种供电来源,动态计算各时段最优供电成本,最大化清洁能源使用比例;同时依据分时电价、风光发电实时变化,灵活调度算力任务,主动错峰利用低价清洁能源,从源头降低算力用电费用。
不少国产大模型在提升性能的同时,也在改善词元性价比。腾讯副总裁林松涛介绍,混元HY3大模型以较小参数量实现了媲美更大尺寸旗舰模型的能力,使用成本仅为顶尖模型的百分之几,为企业规模化应用提供更经济的选择。
美团LongCat-2.0(龙猫)大模型在业界率先推出输入缓存词元免费模式。对此,美团相关人员透露,在典型智能体使用场景中,用户输入与输出比例约为150比1。经测算,对输入缓存词元采用不收费规则,用户综合成本有望降低一个数量级。
刚上线便备受关注的万亿参数旗舰模型Kimi K3,虽然单价较高,却展现出不错的性价比。
大模型评测机构SuperCLUE发现,通过计算完成相同任务的成本,Kimi K3在任务得分领先第二名18%的同时,平均成本却低约16%。这表明,国产旗舰模型的性价比正持续优化。
对此,SuperCLUE创始人徐亮认为,Kimi K3在处理多轮交互复杂任务时,凭借更强底层能力减少迭代次数,加上出色的上下文缓存命中率,综合调用成本优于预期。
由于不同大模型的能力与价格差异显著,“智能模型路由”也成为WAIC热点。
派欧云创始人姚欣介绍,以往智能模型路由仅做简单“请求转发”,新一代智能路由在处理高价值、高风险或不确定的关键步骤时,不只咨询一个模型,而是将问题并行分发给多个擅长该领域的专家模型,通过交叉验证与融合生成最终结果。同时,智能路由会根据任务类型选择,比如简单问答用轻量模型,复杂推理用强模型,并压缩冗余上下文,复用前期计算结果,设置预算上限与失败回退机制。最终目标是利用更经济的词元成本,完成同等质量的任务。
派欧云综合测算发现,其智能模型网关可将智能水平提升20%,同时降低成本50%至60%。(记者 叶健 袁小康)