Synth Daily

英伟达的AI优势已不仅限于GPU

英伟达的竞争优势已经从单纯的 GPU 扩展到了整个 AI 计算系统。随着 AI 数据中心规模的扩大,管理和调度数据的复杂性日益增加。英伟达通过构建包括 Vera CPU 在内的专用硬件,来优化整个系统的运行效率,而不仅仅是提升 GPU 本身的性能。这一系统层面的领先地位,使其在面对日益激烈的 GPU 竞争时,依然能保持强大的护城河。

优势的演变:从芯片到系统

过去,人们普遍认为英伟达的成功源于其在 AI 繁荣初期作为顶级 GPU 的唯一供应商。然而,随着亚马逊和谷歌等大型科技公司开始研发自己的芯片,市场开始质疑英伟达优势的持久性。

现在,一种新的观点正在形成:英伟达的真正优势远不止于 GPU。

  • 问题的核心: 随着 AI 计算规模达到千兆瓦级别,如何高效地协调和管理整个数据中心已成为一项极其复杂的任务。
  • 效率的挑战: 即使计算本身被视为一种商品,在峰值效率下运行超大规模数据中心仍然非常困难。
  • 英伟达的布局: 公司早已开始构建处理这些复杂任务所需的硬件,从而在 GPU 周边的支持系统中建立了巨大优势。

机架层面的整体解决方案

英伟达目前正在推广其 Vera Rubin 架构。这套架构不仅仅包含 Rubin GPU,还集成了 Vera CPU、推理加速器以及相应的存储和网络单元,构成了一个完整的计算“机架”。

如果说 GPU 是引擎,那么这些组件就是汽车的其他部分,确保一切协同工作,尽可能高效。

Vera CPU 的主要任务是解决数据编排问题。随着数据中心算力提升,内存容量也在增加,但如何及时、高效地将数据输送给 GPU 成为了新的瓶颈。

英伟达存储技术副总裁 Jason Hardy 表示:“Vera CPU 带来了显著的加速效果,我们看到这些操作的性能提升了高达 3 倍。现在我们可以充分发挥闪存的全部潜力,因为我们能够从中获得所有性能而不会产生瓶颈。”

竞争进入新层面

这种对效率的追求并非英伟达独有。例如,OpenAI 开发的 Jalapeño 芯片也通过将整个工作负载保留在单一连接系统内,来最大限度地减少数据移动,从而提升效率。

这表明整个行业的竞争焦点正在发生变化:

  • 旧战场: 谁能制造出最强大的 GPU
  • 新战场: 谁能让整个系统协同工作得最有效率。

虽然英伟达仍需在这一新领域与对手竞争,但竞争已经转移到了一个新的层面。在这个层面上,仅仅拥有一个强大的 GPU 已经不够,能够高效地整合和运行整个系统变得更为关键。至少在初期阶段,英伟达似乎已经取得了决定性的领先