微软也撑不住了:工程师AI调用月烧数千美元,开始限额管控
过去几年,科技巨头一直在推动员工“积极拥抱AI”:
●编程?交给Copilot。
●文档整理?用大模型搞定。
●数据分析?先让AI试试看。
但现在,一些企业正悄然转变思路:AI并非用得越多越好,特别是每次调用都涉及实实在在的计算开销——而最新加入这一潮流的,是微软。
近日,微软开始调整内部AI使用规范,要求工程师留意AI工具的成本,并为内部AI调用设定预算上限。为此,一位微软高管在邮件中直接提醒员工:
“Tokenmaxxing 不是我们追求的方向。”
不过,微软强调,这并不意味公司要减缓AI转型,而是希望员工能从“无节制使用AI”转向“更精打细算地使用AI”。
开始管控AI消耗,GPT-5.6成内部默认模型
据外媒404 Media获取的一封微软内部邮件显示,微软正在重新管理员工使用AI工具带来的Token成本。邮件由微软执行副总裁 Jay Parikh 发出,他指出,随着公司进一步推广 GitHub Copilot 的使用,所有员工都需要更留意自己的Token消耗方式。
“随着我们加速利用 GitHub Copilot 来实现目标,我们都需要关注自己消耗 Token 的模式。Tokenmaxxing 不是我们追求的目标,我希望大家关注的是如何最大化那些真正推动客户和业务成果的行动。”
所谓“Tokenmaxxing”,简单理解就是为了让AI发挥极强能力,不断追加模型调用、输入更冗长的上下文、要求模型生成更多内容。这种做法在AI初期推广阶段相当普遍,不少公司都曾鼓励员工“尽量多用AI”,甚至觉得AI使用频次越高,代表其数字化转型越深入。
但与此同时,一个现实问题逐渐显现:大量调用AI,不一定就等于生产力的显著提升。如果员工频繁调用昂贵模型处理低价值任务,公司最终面对的或许不是效率飞跃,而是一张越来越高的AI账单。
所以,为了压缩成本,微软正在采取更精细化的管理方式。
James Parikh透露,为了“从Token投入中获得更大回报”,微软把成本更低的 OpenAI GPT-5.6 设为内部默认模型。此外,更新后的内部Copilot使用指南也显示,从2026年7月开始,公司各业务部门将拥有自己的“AI Token预算目标(AI token budget target)”。
员工也可以查看自己的AI使用情况,并跟踪个人Token消耗。不过,微软并没有公布具体预算额度:“目前不会公开目标支出数值。但数据显示,许多工程师每月Token消耗成本在数百美元到数千美元之间。”
微软表示,未来可能会根据实际使用情况进一步追加限制措施。
“连卖 AI 的公司都开始控制成本了”
值得注意的是,微软此次控制AI开支,其实并不是因为公司缺钱。
根据其最新财报,微软全年营收、运营利润以及净利润均实现增长。所以,这并不是一次“削减预算求生存”,只是微软在重新审视:投入大量资金使用AI,到底换来了多少实际效益?
不止微软,此前包括亚马逊、Adobe、Atlassian以及花旗集团等公司,都已经开始限制员工过度消耗Token。他们面临的问题非常类似:员工确实因为AI获得了效率提升,但模型的调用成本也在快速攀升。
尤其是在代码开发场景中,很多AI Agent会自动读取大量项目文件、生成多轮代码、反复修改调试,这些操作都会消耗大量Token。当这种行为从几十名员工扩展到数万名员工时,成本很可能会迅速失控。
一名微软内部员工在匿名接受404 Media采访时表示,一家投入如此巨大、同时又大量补贴AI推理成本的公司,现在正让自己的员工减少AI支出,这一点“非常值得关注”。在他看来,这暴露了一个严重的行业问题:
“如果作为 AI 基础设施提供方的公司,都无法承担自己的 AI 产品成本,那么其他购买你家 AI 服务的公司又该怎么办呢?”
而这,也是当前整个AI行业正在面对的现实:大模型公司不断追求更强能力、更长上下文、更复杂Agent,但这些能力背后都意味着更高的计算成本。AI能力越强,运行成本可能就越高,如何找到能力、成本和收益之间的平衡成为关键。
基于此,两个月前微软宣布GitHub Copilot开始转向基于使用量的计费模式,为此不少用户都抱怨自己的Token限额根本不够用。与此同时,微软还在探索让Microsoft 365中的部分AI请求优先调用自家的MAI模型,而不是依赖成本更高的Anthropic和OpenAI模型。
可见,即使是微软这样的 AI 巨头,也正在寻找减少外部模型调用、降低推理成本的方法。
没有放弃 AI,而是寻找“每个 Token 的最大价值”
不过,尽管开始限制AI预算,微软并没有改变自己的AI战略。
James Parikh在邮件中强调,公司仍会持续推进“AI-first”(AI优先)方向,并会随着模型和产品的发展不断调整内部政策。
“我们的目标不是减少 Token,而是提高每个 Token 带来的影响力。”
这句话,或许代表了AI行业正在迈入的新阶段。在AI发展的早期阶段,公司关注的是:谁拥有更多模型,谁部署更多 AI 工具;而现在,企业开始追问:“这些AI调用到底创造了多少价值?”
毕竟,AI时代拼的不只是模型能力,也包括如何把每一个Token花在“刀刃”上。
参考链接:https://www.404media.co/microsoft-tells-engineers-tokenmaxxing-is-not-what-we-are-optimizing-for/