人工智能推理云初创公司 General Compute 获得了 4 亿美元的贷款，这笔交易首次使用专为 AI 推理设计的非英伟达芯片作为抵押。该事件表明，市场正从昂贵的模型训练转向更经济、高效的开源模型推理，这不仅反映了对 AI 工具高昂成本的担忧，也可能预示着资本正在寻找替代方案，以挑战英伟达在芯片市场的主导地位。
一笔特殊的交易
General Compute 公司从科技投资公司 Upper90 获得了 4 亿美元贷款。这笔融资的独特之处在于，它以 AI 推理专用芯片 作为抵押品。
- 推理芯片： 这种芯片专为快速、高效地运行 已经训练好 的 AI 模型而设计。
- 不同于训练芯片： 用于构建和训练 AI 模型的芯片通常更加昂贵和复杂。
- 新云平台： General Compute 正在围绕芯片制造商 SambaNova 的芯片构建一个专为 AI 工作负载设计的“新云”（neocloud），以区别于亚马逊 AWS 或微软 Azure 等通用云服务商。
为什么选择 SambaNova 芯片？
General Compute 使用的 SN50 芯片为推理任务提供了显著优势，这对于一个需要大量采购芯片的新公司来说至关重要。
- 速度优势： 官方称，其推理速度将比基于 GPU 的云 快 16 倍。
- 成本效益： 芯片功耗效率高，且 不需要昂贵的水冷系统。
- 部署灵活： 可以在更多样的数据中心快速部署。
“有很多芯片开始规模化，它们拥有惊人的总拥有成本，或者运行速度比英伟达快得多，但买家却不多。”
投资者的逻辑转变
投资者 Upper90 曾是首批为 GPU 提供融资的公司之一。他们现在将目光投向了推理芯片，以抓住 AI 热潮的下一波机遇。
Upper90 的首席执行官 Billy Libby 指出，他们曾在 2021 年为 Crusoe 公司购买 GPU 提供融资，当时市场效率低下，他们作为早期参与者获得了风险补偿。但现在，GPU 市场已相对成熟，甚至可能已被过度购买。
“我们认为 开源模型 将变得非常重要……并非每个人都需要一台超级计算机，但他们确实需要推理和人工智能。”
这一判断正得到市场验证。提供开源模型访问的公司（如 OpenRouter）获得了高额估值的新融资，而像 Groq 和 Cerebras 这样的新兴芯片制造商也吸引了市场的极大兴趣。
挑战英伟达的垄断
General Compute 能够获得英伟达生态系统之外的芯片，这本身就具有重要意义。随着越来越多英伟达的替代品出现，那些不受其交易束缚的算力提供商可能在提供高性价比的推理服务方面占据优势。
- 多元化选择： 像 TensorWave 这样的另一家 AI 基础设施公司，也正通过与 AMD 合作进行类似的布局。
- 资本的新方向： 这笔交易被视为资本市场正在主动寻找并支持能够削弱英伟达主导地位的新力量。
General Compute 的首席执行官 Finn Puklowski 表示：“这不仅仅是‘一家很酷的初创公司拿到了一些钱来购买算力’。这是 资本自我组织、并打破英伟达垄断地位的第一个信号。”