招商银行大模型落地的成本效益与实践挑战
首先,企业级应用的架构设计至关重要,然而大模型在软件架构层面的能力存在明显短板,这是一项需要重点关注的不足;其次,即便大模型编写的代码功能正常、准确率较高,仍然会形成各种形式的“技术负债”。技术负债是软件开发领域的专业概念,涵盖了代码可读性差、系统性能下降、安全隐患等多方面问题,这些挑战尚未被大模型编程完全攻克。招行的Token消耗主要来自业务部门。截至5月底的最新统计数据显示,日均Token消耗量已攀升至330亿,这些均来自业务单位在日常经营管理与服务中实际运用大模型所产生的消耗。关于Token使用的预
招行AI实践揭示大模型真实成本
一是大型软件架构至关重要,但当前大模型在架构设计上能力不足,成为显著短板;二是即便大模型生成的代码功能无误、准确率较高,仍会累积不同程度的‘技术债’。技术债是软件工程术语,涵盖结构混乱、性能瓶颈、安全漏洞等问题,目前尚未被彻底解决。招行的Token消耗主要来自业务部门。截至5月底,日均Token消耗已达330亿,源于各业务单元在经营管理中对大模型的使用。关于Token预算管控。去年招行提出‘AI优先’战略,推动全行范围的大模型落地。但作为超十万人的大型机构,全面推广易导致投入繁杂而业务成果有限。因此,亟需
AI原生模式必须直面的成本与收益之困
在当下AI狂飙的时代,我们不难发现,AI在诸多领域的执行效能确实远超人类,因此,大大小小的企业纷纷涌入AI赛道,不少初创团队也开始投身于AI原生。作为一名真正的智能体从业者,我为各类企业搭建过通用及垂直领域的智能体,让企业切实感受到了效率的飞跃。然而,在这个过程中,我也察觉到了一些切实存在的隐患,想在此与大家探讨,甚至可以说是给AI原生的热潮降降温。首先,我们必须基于第一性原理来思考:企业是以盈利为目的的。基于此,我们再来审视营收与成本的问题。我们在利用AI提升产出的同时,也能清晰地看到资金在持续流失,这