这篇讨论深入探讨了人工智能（AI）的监管问题，反驳了“监管必然导致权力集中”的简化观点。作者认为，精心设计的监管非但不会巩固大公司的权力，反而可以通过建立公平的制度流程来分散权力，并为小型竞争者创造优势。文章以 Anthropic 公司的实践为例，说明其支持的政策旨在通过对前沿模型施加更严格的约束，来扶持追赶者。最终，作者指出 AI 技术本身具有集中权力的倾向，因此，制定合理的“游戏规则”是管理其风险、约束巨头并为开源社区留出空间的必要途径。
打破对监管的刻板印象
很多人认为，在 AI 监管问题上，我们面临一个伪命题式的选择：要么将权力集中在少数公司和政客手中，要么就完全放任自流。这种观点尤其在硅谷很流行，他们倾向于将“监管”等同于“监管俘获”，最终导致权力集中。
然而，这种看法过于简单。在许多人眼中，监管恰恰是约束公司权力、保护普通人利益的工具。事实可能更复杂，监管的效果完全取决于其具体内容。
认为“监管 = 权力集中”的观点，常常低估了客观、公平的制度流程所具有的分散权力的潜力。
好的制度如何分散权力
一个好的制度能够将权力赋予思想，而非个人，从而实现权力的分散。
- 一个粗略的类比是，正式的法院系统虽然有时显得刻板和精英化，但在保护弱势个体权利方面，远胜于依靠私刑。
- 同样，精心设计的监管规则可以建立一个公平的框架，防止权力过度集中在少数实体手中。
Anthropic 的策略：为竞争者创造优势
Anthropic 公司一直致力于提出能够削弱前沿 AI 公司（包括我们自己），同时为小型竞争者创造优势的政策建议。这直接反驳了监管只会让大公司受益的说法。
- 支持加州法案 (SB53): 该法案完全豁免了收入或模型训练成本低于特定门槛的公司，旨在保护小型企业。
- 倡导差异化测试: 我们主张对最前沿的模型进行比其他模型更严格的测试，这为追赶者提供了差异化优势。
- “控制前沿步伐” (Pacing the Frontier) 设想: 核心思路是调节最顶尖模型的开发速度，同时不限制那些正在追赶的模型。这实际上损害了前沿实验室的商业利益，却帮助了包括开源社区在内的挑战者。
AI 的内在趋势与监管的必要性
AI 本身就是一种在结构上倾向于集中权力的技术，这与规模效应（scaling laws）的极端影响有关，而与监管无关。
- 开源模型并非万能药: 它们虽然有帮助，但远不足以解决问题。因为它们只是将权力集中点，从模型开发者转移到了那些拥有最多算力和芯片的实体（通常是前沿实验室和硬件供应商）。
相比之下，正确的“游戏规则”可以同时实现三个目标：
- 应对 AI 带来的网络、生物和对齐风险。
- 从制度上约束前沿 AI 公司的权力。
- 为开源模型留出发展空间，同时管理它们可能带来的特定风险。
目前，我们对监管的进展持支持态度。据报道，美国政府正在考虑的方案——对前沿模型进行部署前测试，并对接近前沿的开源模型进行测试——正是我们所支持的方向。
这与六个月前的情况形成鲜明对比，当时大多数行业仍在推动否决所有州级监管，并且联邦层面也缺乏明确的方案。