原文作者：Frank Fu
原文来源：IOSG Ventures
2023年，David Cahn提出的那个“2000亿美元”缺口，从未在模型训练端被填补。它最终在推理（inference）端找到了答案，而市场直到最近几周才开始为此重新定价。当英伟达围绕“服务Token”重构其财务披露框架、Cerebras上市获得20倍超额认购时，关于瓶颈的争论已然落幕。真正的挑战变成：当推理成为稀缺资源，价值将沉淀在算力栈的哪一层？
从2000亿到6000亿：GPU投资的悖论
2023年，红杉资本的David Cahn抛出了悬在AI产业头顶的“2000亿美元问题”。每支出1美元购买GPU，就需要再花1美元在数据中心为其提供电力与冷却。这意味着，每年的GPU资本支出，最终必须催生约2000亿美元的终端收入，才能覆盖投资成本。即便对AI收入做出最乐观的假设，Cahn依然发现“投入”与“终端客户实际付费”之间存在超过1250亿美元的鸿沟。简言之，GPU正在超前于真实需求被过度建设。
一年后，这个缺口非但没有收窄，反而急剧放大。随着超大规模云厂商资本支出膨胀，Cahn在2024年的分析中将此重新定义为“6000亿美元问题”。看空逻辑似乎不断自我强化：过度建设导致供给过剩，而过剩终将烧毁资本。
然而，这两次分析的核心追问始终如一：谁来填这个窟窿？答案从未出现在“训练”这一侧的账本上。它真实地落在了“推理”这一侧，而市场直到最近几周才开始认可这一转变。
Cerebras上市与推理瓶颈的觉醒
Cerebras于周四成功上市，此次IPO获得20倍超额认购，定价接近最终加价的两倍。市场需求并非源于对“下一个英伟达杀手”的投机，而是基于一个更根本的认知转变：市场开始意识到，AI真正的瓶颈在于推理，而非训练。
Cerebras的核心技术是一种让推理速度极快的专用芯片架构。注意，不是训练，是推理。这正是华尔街兴奋的根源。推理市场具有经常性收入特征，随使用量扩张而持续增长。每一次Claude回答问题、每一个AI Agent自动执行任务，都在消耗算力。训练仅发生一次，但推理永不停歇。
据J.P. Morgan估算，推理市场规模可达训练的10至50倍。当机器开始执行由其他机器下达的任务——即所谓的智能体（Agentic）式扩张——推理需求不再随用户数线性增长，而是随算力本身指数级扩张。
英伟达重塑版图：推理成为头条
如果说Cerebras是市场的觉醒信号，那么英伟达最新一季财报则来自产业链顶端的官方确认。在财报电话会上，Jensen Huang明确指出了AI需求正呈抛物线式增长。原因很简单：智能体AI已经到来。主流AI从一次性推理，过渡到逻辑推理，再发展到能自动调用工具、编排任务的Agent阶段。Huang强调：“Token现在是有利可图的。”在AI时代，算力直接等同于收入和利润。
这彻底重塑了行业认知。训练是构建模型的一次性资本支出，推理则是运行模型的经常性成本。如今的瓶颈在推理，而非训练。
英伟达已将此判断融入财报口径。公司现按两大平台披露：数据中心与边缘计算。数据中心（当季约750亿美元，同比+92%）进一步拆分为超大规模云（约380亿美元，环比+12%）和ACIE（AI云、工业与企业，约370亿美元，环比+31%）。全新独立披露的是边缘计算板块：64亿美元，同比+29%，覆盖智能体AI和物理AI实际运行的终端，如PC、工作站、AI-RAN基站、机器人及汽车。
边缘计算目前占总收入不到8%，但英伟达已将其提升至与数据中心并列的“第二平台”。信号清晰：推理正分裂为两条战线——数据中心内的云端推理，以及边缘侧的端点推理。AI必须在物理世界中“看见、移动并行动”。产品路线图亦遵循此逻辑：第三季度开始出货的Vera Rubin，推理吞吐量可达Blackwell的35倍；Huang还为面向智能体负载打造的Vera CPU给出了全新的2000亿美元潜在市场。每一家前沿模型公司预计都将在第一时间全面转向。
当地球上市值最高的公司围绕“服务Token”重组财务披露时，瓶颈之争已尘埃落定。下文将核心讨论：当推理成为稀缺资源后，价值由谁捕获？
需要明确范畴：在这两条战线中，我们聚焦于云端推理，即对外提供API Token服务的、租用的数据中心GPU。端点推理运行在设备自身内部的本地芯片上（如英伟达的Jetson、RTX、Drive、AI-RAN），完全不经过底层GPU租赁与聚合栈。在此，我们将端点推理视为放大整个推理经济、佐证瓶颈论点的顺风，而非本文重点讨论的市场。
挤压已然来临：Anthropic的算力危机
Anthropic是煤矿中的金丝雀。其使用量远超预先配置的产能，关于Claude被“脑叶切除”的抱怨刷屏全网，包括频繁的限流回复、变慢的推理速度、被压缩的上下文窗口。解决方案赤裸裸地指向算力：2026年5月，Anthropic从SpaceX手中接管了整个Colossus 1数据中心，包含22万+张英伟达GPU、300+兆瓦电力，并专门将其用于推理，而非训练。
这部分新增产能解锁了一系列限额变动：5月6日，Anthropic将Claude Code的五小时限额翻倍、取消高峰时段限流，并大幅提高Opus API的速率限制。5月13日，又将Claude Code周限额再提高50%。随后，从6月15日起，它做出看似“相反”的决策：将智能体与程序化使用（Agent SDK、无头模式、CI流水线）从扁平订阅中分离，纳入独立计量的积分池。最后一步浓缩了整套论点：Agent消耗推理的速度远超扁平订阅的设计承受能力，因此必须按“经常性成本”逻辑定价。
训练是一次性的资本支出。推理是一项经常性的运营成本，随每一个新用户、每一个新Agent而复利累积。
算力栈：六层结构，一个瓶颈
每一个AI应用都坐落在一条从台积电晶圆厂开始、到API端点结束的供应链上：
大多数公司仅拥有其中一层：英伟达拥有硅片，CoreWeave拥有裸金属，Together AI拥有推理优化，OpenRouter拥有模型API路由。
唯有一家公司例外。
Hyperbolic：唯一横跨三层的聚合者
Hyperbolic于2025年6月推出其按需GPU市场。在最初几个月内，开发者数量突破20万+，采用方覆盖前沿AI实验室、搜索引擎以及大型消费级平台。
其架构值得关注。Hyperbolic自身不持有任何一张GPU。每一张计算卡均来自neocloud和数据中心，包括CoreWeave、Lambda Labs、Nebius以及手握闲置产能的更小运营商。这看似弱点，实则为护城河。
通过处于GPU供给方与消费方之间，Hyperbolic能获取别人无法看到的实时数据。它知道谁在以什么价格、在什么时间购买哪种GPU。它在供给过剩公开化之前就能察觉，在需求飙升冲击市场之前就已预判。
如今，护城河本身便是这套多云聚合能力。Hyperbolic将来自数十个独立云与数据中心的碎片化产能，缝合为一个标准化的统一池。开发者无需与每一家运营商谈判、无需管理一堆账户，即可在任何地方租到最便宜的可用GPU。它接入的云越多，流动性越深，定价数据越丰富。团队正在探索如何利用这些数据建模GPU价格曲线，并最终投入自有资本平滑供需，扮演物理算力的做市商角色。但这一目标仍处早期，真正在当下复利的是聚合层。
这就是飞轮效应：
- 接入更多云 → 更多被聚合的供给
- 更多供给 → 更深的市场与实时定价数据
- 更好的数据 → 当下更智能的路由，长期则是定价模型
- 更好的流动性与价格 → 更多开发者 → 更多云希望接入
没有其他公司在做同样的事。Hyperbolic是唯一同时横跨GPU租赁层、部署层与模型API层的公司。
Venice：推理经济的应用层镜像
Venice是推理经济在应用层最清晰的体现，也是与Hyperbolic所处位置的绝佳对照。它是一个隐私优先的推理应用：提供OpenAI兼容的API及面向消费者的订阅方案，将请求路由到约75个模型上，其中约三分之二为开源或自托管模型（如Llama、Mistral、Qwen、DeepSeek），其余为对闭源前沿模型的匿名透传。
关键在于，Venice自身并不拥有显著的算力。它从未公开的GPU合作方和机密计算供应商（如NEAR AI Cloud、Phala）处租用算力，并向前沿实验室付费进行透传。因此，其真正的收入成本是推理算力，而非SaaS托管。
Venice真正卖的是隐私。这里的“隐私化”并非把公共算力变成私产，而是给商品化的推理裹上一层保证：不留存数据、不用于训练、请求匿名化，部分负载运行在TEE中，使运营商自身也无法看到明文。底层算力是大路货，加价卖的就是这层隐私包装。这层保证是分层的：对运行在自己控制或TEE GPU上的开源模型，能做到接近端到端的机密计算；但对Claude、GPT等闭源模型的匿名透传，隐私仅剥离身份，前沿实验室端仍在处理原始prompt。因此，最强的隐私仅覆盖开源模型部分，前沿模型部分实质是“匿名”而非“真机密”。
Venice的毛利等于订阅价减去向下游支付的推理成本。它能比裸API价多收的部分，几乎全靠这层隐私溢价支撑，这也是其薄利、且受制于前沿透传定价的原因。
代币设计将这部分推理需求包装起来。Venice运行两个代币：VVV（质押与平台准入）和DIEM（推理积分，每个DIEM约等于每天1美元的算力）。付费订阅会触发对VVV的程序化回购销毁（Pro/Pro+/Max分别约2/5/10美元），排放则按固定时间表递减：每月从600万降至500万、400万VVV，并于7月1日下调至300万。回购是真实的，但属于自由裁量且规模仍不大：4月和5月各销毁约10.3万美元，6月正缓慢爬向约11万美元，远低于每月20万美元的基准线。
基本面比标题更健康。公开流传的“7000万美元ARR”数字很可能将订阅续费误认为净新增获客。可辩护的可观测区间更接近600万至1500万美元ARR。在此之下，真实用户增长是坚实的：约13.6万名持币地址、每月约990万次网站访问（每天约33万次），新增Pro订阅徘徊在每天约1400条。这是一门真实的生意，但属于薄利生意，其经济性受制于所购买的算力。
这正是Hyperbolic处于它上一层的理由。如果说Venice是加油站，Hyperbolic就是炼油厂。Venice从所有人都依赖的同一受限供给中购买算力；Hyperbolic则将该碎片化供给聚合、标准化，再卖给Venice及所有类似玩家。随着推理需求增长，价值不仅向消费算力的应用累积，更向聚合并路由算力、捕获这些应用所支付的收入成本的那一层累积。
为什么此刻至关重要
英伟达围绕“服务Token”重组了财务框架。Cerebras的IPO证明市场已明白推理是瓶颈。Anthropic为产能四处奔走，证明这是一个真实的问题。智能体AI与物理AI将把需求放大数个数量级，横跨云端与端侧两条战线。
这也从另一侧合上了“6000亿美元问题”的环。Cahn的看空逻辑——过度建设，然后过剩——最终可能被验证。但过剩恰恰是轻资产聚合方的最优行情：当GPU价格下行、供给碎片化分散在数十个云上，那个不持有任何硬件、把每一份工作负载路由到最便宜可用卡上的玩家将赚取价差，而持有不断折旧GPU的运营商则承担损失。Hyperbolic是做多过剩，而非做空它。
最终胜出的公司，不会是拥有最多GPU的那一家，而是能告诉你哪些GPU在哪里、以什么价格可用，并把每一份工作负载路由到能以最低成本运行之处的那一家。
Hyperbolic正在打造这样一家公司。不自己拥有GPU，纯软件，纵深三层，却可能成为推理终极算力的聚合层。
市场资讯部点评
本文揭示了AI产业从“训练为王”向“推理为王”的关键转折。当英伟达、Cerebras等巨头明确将推理列为瓶颈时，产业链价值分配正发生根本性迁移。我们认同文中的核心洞察：推理作为经常性成本，其需求随智能体AI爆发而指数级增长。在此背景下，轻资产聚合平台（如Hyperbolic）通过整合碎片化算力，将获得显著的价差收益，这符合我们对“算力中间层”价值捕获的逻辑预判。然而，需警惕的是，这一商业模式高度依赖GPU供给过剩的持续性。若头部云厂商加速自建推理集群并降低对外依赖，聚合层的议价能力可能被侵蚀。总体而言，本文深度与前瞻性兼备，建议持续关注推理算力栈的格局演变。
