银行大模型Token消耗小透视:初期谨慎背后,国产化与场景落地尚需破局
当前银行业在大模型应用方面的Token消耗量看似庞大,但深度解析后会发现态度仍相当谨慎。银行的Token大多由私有化部署的GPU算力生成,即便日均达到百亿级别,单日硬件成本也不过十万元出头。对照银行业整体IT投入的规模,每年几千万元的大模型相关开销其实并不突出,资金层面远未到“烧钱”的阶段。
从消耗结构更能看出实际应用尚浅。以招商银行公开的数据为例,其日均百亿Token中只有约5%被用于AI辅助编程(AI Coding),即每天仅产生数亿Token。考虑到招行庞大的研发团队基数,这个用量对于专业开发群体来说实属偏低,足以说明该行在AI编码领域的探索仍处于初级尝试期,远未进入大规模协同开发阶段。
在金融软件领域,那种“日抛型”快速迭代的逻辑并不适用,业务系统更强调稳定与合规,使得AI工具带来的提效诱惑常常与落地现实产生碰撞,导致很多机构在仓促投入预算后,又反复盘算投资回报,陷入“糊涂账”。与此同时,银行业对AI算力的国产化要求已成为刚性条件,这一政策驱动的约束至少需要半年到一年的时间才能逐步缓解。因此,行业的整体AI应用仍需等待底层生态进一步成熟,真正的爆发期或许还要再看看。