AI成「生产资料」:SemiAnalysis降本增效,硅谷巨头却为天价账单抓狂

AI成「生产资料」:SemiAnalysis降本增效,硅谷巨头却为天价账单抓狂

【导语:SemiAnalysis使用AI大模型,每百万Token成本仅0.99美元,实现降本增效;而硅谷巨头如Uber、微软等却因AI账单焦头烂额。未来大模型成本塌缩趋势明显,但AI对经济的实际影响目前仍有限。】


Token成新时代「生产资料」,SemiAnalysis降本增效

硅谷半导体研究机构SemiAnalysis的内部大模型Token支出已占到员工总薪资的30%,但这笔钱买到的产出,过去得靠好几倍的人力成本才能覆盖。人均每月吞掉近50亿个Token,是Meta人均水平的5倍以上,核心贡献者月消耗更突破1000亿。

原本需要初级分析师花几个小时完成的Excel模型转换、财报图表制作,如今几分钟内就能完成,且只需要几美元。SemiAnalysis认为,这是专业服务业的单元经济正在被重写。

硅谷巨头为AI账单抓狂,使用效果存疑

与SemiAnalysis形成鲜明对比的是,硅谷的巨头们正为AI账单焦头烂额。Uber向工程师推广Claude Code后,AI使用率飙升,导致全年预算提前花完,CTO不得不重新做预算,还为员工设置了每月1500美元的Token上限。

微软也取消了大部分Claude Code许可证,转向自家的GitHub Copilot CLI,原因是花钱速度比产出速度还快。英伟达应用深度学习副总裁表示,计算成本远远超过了员工成本。MIT研究显示,在以视觉为主要工作内容的岗位中,77%的情况下雇人比用AI便宜。

大模型成本塌缩,毛利率扩张成趋势

从软件端看,在B300上运行DeepSeek R1,通过三层纯软件优化,单GPU吞吐量能提升14倍。从硬件端看,最优化配置的GB300 NVL72吞吐量是H100的17倍,切到FP4精度直接拉到32倍。

Opus 4.7虽标价较高,但实际混合成本被压到了0.99美元,连标价的五分之一都不到。Gartner报告显示,到2030年,万亿参数大模型的推理成本将比2025年下降超过90%。Anthropic的ARR和毛利率也大幅提升,说明大模型的毛利率扩张是结构性趋势。

AI资本开支暴增,实际影响仍有限

全球科技公司今年AI资本开支已宣布7400亿美元,比去年暴增69%,但同一时间,科技业裁员速度已超去年全年。Goldman Sachs首席经济学家指出,AI对经济的实际影响到目前为止基本为零。

这是每一轮基础设施革命都要经历的阵痛,AI也不例外。SemiAnalysis已尝到降本增效的甜头,而其他公司则面临着是现在入局还是等待的抉择。

编辑观点:AI作为新兴技术,虽短期成本与效益矛盾凸显,但长期成本塌缩趋势明显。企业应权衡利弊,把握时机,在这场技术变革中寻找发展机遇。