招行AI实践揭示大模型真实成本

一是大型软件架构至关重要，但当前大模型在架构设计上能力不足，成为显著短板；二是即便大模型生成的代码功能无误、准确率较高，仍会累积不同程度的‘技术债’。技术债是软件工程术语，涵盖结构混乱、性能瓶颈、安全漏洞等问题，目前尚未被彻底解决。招行的Token消耗主要来自业务部门。截至5月底，日均Token消耗已达330亿，源于各业务单元在经营管理中对大模型的使用。关于Token预算管控。去年招行提出‘AI优先’战略，推动全行范围的大模型落地。但作为超十万人的大型机构，全面推广易导致投入繁杂而业务成果有限。因此，亟需