79%企业GPU算力半数时间完全闲置,70%却仍计划加码AI计算平台
来源:集微网 15 小时前

科技媒体VentureBeat旗下研究机构VentureBeat Intelligence汇总的2026年第三季度连续调研数据显示,79%的企业受访者表示,其GPU算力至少有一半时间处于完全闲置状态。这一比例在7月、8月和9月三轮VB Pulse调查中始终稳定维持在77%至81%的高位,三轮回调共覆盖385名来自员工不少于100人机构的合格受访者。GPU使用不充分,在这批企业中已经是一个持续存在的结构性现象,而非短期波动。

但更值得关注的是闲置与扩张的并存。在上述GPU平均利用率不超过50%的企业中,70%仍计划在未来12个月内引入、扩充或更换新的AI计算平台。调研进一步显示,在计划采购新计算平台且GPU闲置的企业中,90%将目光投向公有云与模型API服务商,仅有8%考虑扩建本地私有集群。一边是机房里的硬件在“吃灰”,一边是AI预算仍在加速扩张,企业AI基础设施投入与实际使用之间正在出现一道明显的错配。

背景补充:闲置率有多严重,基准在哪里? 以行业数据作为参照,Cast AI在2026年对约2.3万个Kubernetes集群的分析显示,企业环境中GPU平均利用率仅为5%,意味着约95%的已配置GPU容量未被使用。Cast AI将健康的GPU利用率基准定在约50%。VentureBeat调查中“至少一半时间闲置”这一口径虽与Cast AI的瞬时利用率指标不同,但两者指向同一趋势:企业采购或预留的GPU资源中,有相当比例未能转化为持续有效的算力产出。

错配的根源:两套账单。VentureBeat的调研将这一现象归因于两类同时发生的支出。其一是“恐慌驱动的算力储备”——前两年全球算力短缺的焦虑下,大量企业出于“防踏空”心理提前锁定并采购GPU集群,但硬件到位后,企业缺乏成熟的内部场景和工程能力将其跑满。其二是“对闭源前沿模型的路径依赖”——业务团队和工程师更倾向于直接调用OpenAI、Anthropic和Google的顶尖闭源模型,通过API按Token付费或订阅方式使用,而这些能力无法直接部署到企业此前自建的GPU集群上。结果是自建算力沦为沉没资产,API调用成本却以更快速度吞噬预算。调研还显示,91%计划引入新AI平台的企业拿不出经过财务部门审核的ROI评估数据,AI投资的财务评估明显滞后于基础设施投入的节奏。

这一矛盾在2026年已经出现具象案例。Uber首席技术官透露,公司鼓励员工尽可能多地使用AI工具并设立使用排行榜,结果几个月内便耗尽了2026全年的AI预算,不得不宣告“Token狂欢”时代的终结。

更大的成本压力还在后面。如果说GPU闲置暴露的是存量基础设施的利用效率问题,那么AI Agent的普及可能让成本矛盾进一步放大。VentureBeat预计,企业AI支出中用于模型调用的比例将越来越高;Gartner预测,到2028年单个Agent工作流的推理成本将上升5倍以上。这并非因为Token单价必然上涨——单位价格可能继续下降——而是因为Agent完成任务时消耗的Token数量增长得更快。以AI编程为例,模型需要反复读取项目代码、系统指令和历史执行记录,上下文在多次请求中重复处理会迅速累积成本。

行业警示已经在积聚。Citadel创始人Ken Griffin公开将当前AI投资热潮形容为“几乎肯定”存在泡沫,并将GPU比作飞机座位:一旦算力供过于求,边际价格可能急剧下滑,冲击投资回报预期。他同时警告,企业端AI支出已经从“试错”转向“ROI精算”,老旧GPU的高租金溢价难以为继,行业可能重演2000年电信泡沫中“暗光纤”的覆辙。特朗普科技顾问David Sacks也警告,若GPU大量闲置、价格崩溃,将重创整个AI基础设施投资链。

但这组数据并不必然指向“AI泡沫已经破裂”。一部分算力闲置可能是企业为应对需求高峰而有意预留,计划引入的新平台也可能用于替换旧平台。真正值得警惕的不是闲置率本身,而是闲置与扩张并存时,企业是否具备将算力转化为产出的工程能力和财务纪律。对于企业而言,比继续囤积GPU更紧迫的,或许是先把已有的算力和Token用好:衡量每项已完成任务的成本、缓存重复上下文、将常规高频任务从昂贵的前沿模型迁移到闲置算力上的开放模型,以及利用GPU空闲时段处理批量推理和微调。GPU买来是为了干活,算力竞争的下一程,比的不是谁囤得多,而是谁用得值。

简体中文 English