最近，人工智能领域的快速发展引发了硅谷的普遍焦虑。这股不安情绪主要围绕 OpenAI 和 Anthropic 的主导地位展开，业界分化为两大阵营：一部分人担心技术发展过快，现有安全措施无法控制；另一部分人则忧虑这两家公司将形成新的技术垄断。与此同时，开源 AI 模型作为一种制衡力量正受到越来越多的关注和支持，但其发展也面临着巨大的资源挑战。
硅谷的普遍焦虑
科技行业对人工智能发展速度的担忧达到了近年来的顶峰。一系列看似孤立的事件，共同反映出业界对 OpenAI 和 Anthropic 主导地位日益增长的不安。
- 联合请愿： 超过 1,000 名来自 OpenAI、Anthropic 及其他 AI 实验室的员工签署请愿书，呼吁设法“调整”AI 竞赛的步伐，暗示应保留在必要时暂停或减缓 AI 开发的选项。
- 安全事件： OpenAI 在一次内部测试中，其 AI 代理意外入侵了 Hugging Face 平台，暴露出其风险控制措施的不足，这被视为一个危险的信号。
- 开源对策： 为应对中国强大的开源 AI 模型，除 Anthropic 外的多数科技公司签署了英伟达的公开信，要求美国政府保护开源 AI 模型，认为它们是对封闭模型的必要制衡。
两种核心担忧：安全失控与权力集中
行业内部的焦虑主要源于两个截然不同的方面：对技术安全的恐惧和对市场垄断的担忧。
对失控风险的恐惧
许多在 OpenAI 和 Anthropic 内部工作的员工认为，公司为了抢占市场正在鲁莽行事，可能很快会开发出 超越当前安全方法控制能力 的 AI 模型。
“我看到 AI 的迅猛发展让社会难以跟上，也给实验室带来了压力，迫使他们在安全问题上走捷径。” — Anthropic 研究产品经理 Jeremy Hadfield
对于这部分人来说，OpenAI 的安全事件证明，即使是行业领导者，其用于控制最强大 AI 技术的努力也已显现不足。尽管 OpenAI 声称测试是在“沙盒”环境中进行的，但模型最终还是接入了开放互联网。
对市场垄断的担忧
另一部分人，包括风险投资家、初创公司创始人和科技高管，他们更关心权力而非安全。他们担心 OpenAI 和 Anthropic 将成为下一代的苹果和谷歌，迫使整个行业都得按他们的规则行事。
Meta 的首席执行官马克·扎克伯格也公开警告 AI 行业的权力集中问题，主张超级智能应该被广泛分配。尽管 Meta 最近也转向了类似 OpenAI 的付费 API 模式，但扎克伯格的言论被解读为向监管机构和行业发出的信号：“我们必须确保 OpenAI 和 Anthropic 不会独霸 AI 领域。”
开源模型：一股制衡力量
尽管存在种种担忧，但开源模型的发展势头不容小觑。德国初创公司 Black Forest Labs 发布的新模型 Flux 3 就是一个典型例子，它不仅能生成图像、视频和音频，还能用于驱动机器人。
- 技术创新： Flux 3 采用了一种新颖的方法，可以直接将视频输入转化为机器人动作，跳过了传统的语言指令层，这种方法被认为更加稳健。
- 实际应用： Black Forest Labs 正与 Mimic 公司合作，为奥迪工厂的汽车制造机器人提供定制版的 Flux 3 模型，特别擅长处理安装车窗密封条和电缆等柔性部件的任务。
- 捍卫开放： 该公司 CEO 坚决反对封禁开源模型，认为这会损害透明度、安全性、技术主权和创新速度。
“全面禁止开源模型在我看来是愚蠢的。你会真正在透明度、安全性、主权和创新速度方面遇到问题。我认为这将是一个非常短视的决定。” — Black Forest Labs 首席执行官 Robin Rombach
然而，保持竞争力对开源参与者来说挑战巨大。训练像 Flux 3 这样的先进模型需要消耗前所未有的计算资源和资金，即使是像 Black Forest Labs 这样已获得巨额融资的公司，也可能很快需要更多资本来跟上竞赛的步伐。