由前苹果工程师 Chris Lattner 创立的软件公司 Modular，旨在通过一个统一的软件层和一种新的编程语言，解决当前 AI 芯片软件被少数巨头（如英伟达）垄断的困境。其核心目标是让开发者编写的 AI 应用能够轻松地在不同品牌的芯片上运行。该公司已获得显著的早期成功，包括 2.5 亿美元的新融资和与行业巨头的合作，正努力成为 AI 硬件的通用软件标准。
AI 软件的“围墙花园”问题
随着人工智能的爆发，对高性能芯片（GPU 和 CPU）的需求激增。然而，这些芯片的软件生态系统却被少数大公司牢牢控制。
- 开发者的困境： 为某个特定品牌（如英伟达）的芯片开发应用后，若想在另一品牌（如 AMD）的芯片上运行，通常需要付出巨大的移植成本和努力。
- 英伟达的垄断： 英伟达凭借其专有的 CUDA 平台，占据了市场的绝大部分份额，形成了一个封闭的生态系统，将开发者锁定在自己的硬件上。
- 开源方案的局限： 尽管 AMD 的 ROCm 平台是开源的，但将代码从 CUDA 迁移到 ROCm 的过程依然不顺畅，导致开发者通常只为一个平台进行优化。
“我们认为，算力需求正在爆炸式增长，但却没有一个统一的计算平台。” —— Chris Lattner
Modular 的解决方案
为了打破这种局面，Chris Lattner 和他的同事 Tim Davis 创立了 Modular。他们的目标不是制造新芯片，而是解决更根本的软件问题。
- 统一的软件层： Modular 提供一个中间层，帮助企业从各种不同的 GPU 和 CPU 中压榨出最高的性能。
- 新的编程语言： 基于 Python 开发了一种新语言，让开发者可以用单一语言构建 AI 应用，并使其能跨多种芯片运行。
- 核心理念： 如果一个应用是为一种芯片构建的，那么它应该能毫不费力地在其他厂商的芯片上运行。
雄心与挑战并存
Modular 的长远目标是取代 CUDA 和 ROCm，成为 AI 芯片事实上的标准软件层。这一雄心勃勃的计划已经吸引了业界的关注和资本的支持。
- 行业合作： 英伟达、AMD 和亚马逊等行业巨头已与 Modular 展开合作，测试其解决方案。
- 资本青睐： 公司近期完成了 2.5 亿美元的新一轮融资，总估值达到 16 亿美元。投资者认为，解决软件问题是 AI 领域最有趣且最有价值的挑战。
然而，这条路也充满挑战。
“目前 Modular 对 AMD 和英伟达是补充，但随着时间的推移，这两家公司可能会感到威胁，因为他们的 CUDA 或 ROCm 不再是其芯片之上的最佳软件。” —— Dave Munichiello, GV 管理合伙人
编写 GPU 软件本身是一门“黑暗艺术”，全球只有极少数人能够精通。一些竞争者（如 Mako 公司）认为，未来在于使用 AI 代理来自动优化代码，而不是构建一个全新的通用编译器。
押注于人和结构性变革
尽管存在不同路径，但投资者对 Modular 的信心很大程度上源于其创始人 Chris Lattner 的背景。他曾创建了开源编译器项目 LLVM 和苹果的 Swift 编程语言，在编程界享有盛誉。
Lattner 认为，AI 软件的碎片化是一个结构性问题，无法在大型科技公司内部解决，因为这些公司总是优先考虑自己的技术栈。只有独立的公司才能真正创建一个中立、统一的平台。投资者也表示，他们不仅在押注产品，更是在押注 Lattner 本人，认为他那种“固执、不耐烦但常常正确”的特质，正是推动这种变革所需要的。