Token吃掉三成工资,硅谷AI账单失控了 - 糖果派对在线试玩
- 游戏资讯
- 3条评论
SemiAnalysis,一家专注于半导体研究的机构,公布了其内部AI成本数据。每百万Token的费用仅为0.99美元。然而,更令人瞩目的是,其内部大模型Token支出已占到员工总薪资的三成。
尽管这一比例听起来不小,但其带来的产出效益却远超以往。平均每位员工每月消耗近50亿Token,是Meta员工人均水平的五倍以上,而核心贡献者每月的消耗量更是达到了1000亿Token。过去需要初级分析师花费数小时完成的Excel模型转换和财报图表制作等任务,现在只需几分钟和几美元即可完成。
SemiAnalysis认为,这并非简单的10%效率提升,而是正在重塑专业服务行业的经济模式。研究机构、对冲基金、律师事务所等依赖人力分析的行业,Token支出占薪资的两到三成只是时间问题。
英伟达CEO黄仁勋对此深表关注。他在GTC大会上表示,如果一个年薪50万美元的工程师,年底Token消费不到25万美元,他将“彻底抓狂”。为此,黄仁勋计划为每位英伟达工程师提供相当于半年工资的Token预算,并推动7.5万名员工与750万个AI智能体协同工作。他强调,不使用AI就像芯片设计师坚持使用纸和铅笔一样过时。Token已不再仅仅是工具,而是新时代不可或缺的“生产资料”。
与SemiAnalysis的成本节约形成鲜明对比的是,硅谷的一些大型科技公司正为AI账单而烦恼。
Uber的案例颇具代表性。去年底,该公司向5000名工程师推广Claude Code,并设立了使用排行榜。结果,2月份32%的工程师使用该工具,3月飙升至84%,4月更是达到95%的工程师每月使用AI,70%的代码提交由AI生成,但全年预算却已提前耗尽。Uber的CTO不得不重新制定预算。据Bloomberg报道,Uber后来对每位员工设置了每月1500美元的Token使用上限,超出部分需要特殊审批。然而,Uber的COO Andrew Macdonald也坦承,尽管AI使用量在增长,但其与消费者功能创新之间的直接关联尚不明确。
微软的情况也颇为棘手。据The Verge报道,微软正在取消大部分Claude Code许可证,转而推广自家的GitHub Copilot CLI。主要原因是AI工具的花费速度超过了其带来的产出速度。英伟达应用深度学习副总裁Bryan Catanzaro坦言,对其团队而言,计算成本已远超员工成本。
MIT在2024年的一项研究表明,在以视觉处理为主要工作内容的岗位中,只有23%的情况下AI自动化在经济上是划算的。这意味着,在其余77%的情况下,雇佣人类员工比使用AI更经济。甚至有工程师抱怨AI智能体在使用过程中“毁掉了他的数据库和网络”,称之为“过度使用”的代价。
高昂的预算、失控的使用以及频发的意外,使得硅谷正经历AI经济学上的分裂:一方面是技术带来的前所未有的生产力提升,另一方面是账单以同样惊人的速度膨胀。
成本下降的趋势才刚刚显现。SemiAnalysis的核心观点是,不应仅关注当前的价格,因为成本的急剧下降才刚刚开始。
从软件层面来看,通过在B300上运行DeepSeek R1,并结合wideEP、disagg与MTP等纯软件优化技术,单GPU的吞吐量能从基线的1000 tokens/秒提升至14000 tokens/秒,实现了14倍的性能飞跃,完全是软件优化带来的成果。
在硬件方面,最优化配置的GB300 NVL72的吞吐量是H100的17倍,若切换至FP4精度,更是能达到32倍。Opus 4.7的标价虽为输入5美元/百万Token、输出25美元/百万Token,但考虑到智能体工作负载的输入输出比高达300:1,以及超过90%的缓存命中率,实际混合成本被控制在0.99美元,远低于标价的五分之一。
综合软件和硬件的进步,一个不容忽视的结论是:大模型的毛利率扩张并非偶然的定价策略,而是一种结构性的趋势。Anthropic的年度经常性收入(ARR)从90亿美元飙升至440亿美元以上,毛利率也从38%跃升至70%以上,这表明Token价格的下降并未影响卖方利润的增长。Gartner今年3月的报告预测,到2030年,万亿参数大模型的推理成本将比2025年下降超过90%。SemiAnalysis明确指出,到2027年,Token价格将持续走低。
投入的资金,其最终影响尚待观察。当前AI领域最令人瞩目的现象是,全球科技公司今年的AI资本开支已宣布达7400亿美元,比去年激增69%,而科技行业的裁员速度已超过去年全年。尽管资金在疯狂投入,人员却在减少,高盛首席经济学家认为,AI对经济的实际影响至今基本为零。
这并非AI本身的问题,而是任何一次基础设施革命都会经历的阵痛:首先是巨额资金投入建设基础设施,然后等待其价值的显现。电力网络、互联网的发展都经历了类似的过程,AI也不例外。不同之处在于,此次基础设施建设的速度以及最终价值实现的速率,是前所未有的。
SemiAnalysis已站在了价值显现的一方:以30%的薪资支出换来了数倍的产出杠杆,且成本曲线仍在快速下降。至于其他公司,则面临着是现在就投入其中,还是等待他人先行建立优势后再追赶的选择。
糖果派对专注热门玩法介绍,点燃游戏激情,为用户提供专业可靠的体验。
糖果派对深耕糖果派对在线试玩领域,用心服务每一位用户。
在糖果派对娱乐平台方面,糖果派对提供贴心周到的支持。
05条评论
糖果派对专注糖果派对在线试玩,为用户提供专业可靠的体验。
艾米莉·布朗特
2017年12月4日下午3:12
围绕糖果派对娱乐平台,糖果派对持续打磨更优质的服务。
艾米莉·布朗特
2017年12月4日下午3:12

精选活跃社区互动,结识游戏伙伴内容,糖果派对与你一同发现更多精彩。
艾米莉·布朗特
2017年12月4日下午3:12