AI编程的巨额Token开销
在X上关注了龙虾的创始人彼得,有一篇推文很有意思,贴出了用codexbar的Token使用量。
一个月发出760万个请求,消耗token量6030亿,价值130万美元。
换句话说,他每天用AI编程,成本是4万多美元。
当然,我不认为这是他真实支付的使用成本。因为他是奥特曼的员工,是openai高薪的工程师,所以自然可以无限量使用自家公司的token。
但他的token使用量大概率是真的,这个结果也是很吓人。
给大家看看我一个月使用codex的情况,也就是530多美元,使用了6.34亿token
给大家看看我一个月使用codex的情况,也就是530多美元,使用了6.34亿token。
大佬的效率和小菜鸡的效率一目了然。
现在很多公司都在外购token,不然中转站怎么会这么火?
这里有一个细思极恐的点,大家可以计算一下,如果像我这样的菜鸡开发者,每个月都要消耗几个亿的token,再过几个月,可能业务熟练和增量,消耗到几十个亿。
那么一般正儿八经的程序员,每个月消耗的token量是很吓人的,单月用掉几千亿,几万亿都是正常的,公司的成本随着AI的引入,其实不降反升。
如果改用便宜的国产开源模型,价格大约是国外旗舰模型的1/30到1/50,一年也得200-300万。要是使用美国的顶级模型,费用来到几千万到上亿人民币。
从公司角度出发,要么买包月套餐,要么买API,几乎所有的商业主体都会设限制,不会让程序员无限制使用外部模型,加上程序员工资,开发成本爆炸。
像大型公司Uber和微信都顶不住巨额的Token费用。
L站上不是有吐槽吗?说现在是自费token上班,说的就是公司虽然表面上鼓励大家用AI提效,但压根没考虑过给大家负担token成本。
你要AI提效没问题,我鼓励。
但你要报销token成本,我不同意,别来找我。
所以,真正让AI编程变成跟自媒体一样,核心在于token成为基建,犹如现在中国的水,电,流量。