尽管人工智能行业内部发出了对技术失控的警告，但暂停建造数据中心等流行对策并不能解决根本问题。公司间的激烈竞争和国家间的地缘政治博弈，使得单边自我监管或国内法规收效甚微。唯一真正能减缓AI发展、避免潜在灾难的方法，是达成一项类似于核不扩散条约的国际协议，特别是需要美国与中国达成共识，通过监控芯片和数据中心等物理瓶颈来共同实施限制。
行业内部的警报
来自 OpenAI、Anthropic、谷歌和 Meta 等顶尖公司的大量员工和高管正公开呼吁，要求放缓人工智能的发展步伐。他们担心AI的能力可能很快会超出人类的理解或控制范围。
“AI正处于创造‘前所未有的社会和安全风险’的边缘。” — 盛佳·赵 (Shengjia Zhao), Meta 超级智能实验室首席科学家
许多业内人士将当前AI的进展比作“失控的核链式反应”，并警告说，我们可能已经越过了一个无法回头的门槛。他们担心的未来包括：
- 由聊天机器人生成的生物武器。
- 对银行或政府的大规模黑客攻击。
- 失控的AI代理对社会造成严重破坏。
现有方案的局限性
目前提出的主要解决方案存在明显缺陷，无法有效应对AI发展的核心问题。
自我监管的失败
尽管像 Anthropic 和 OpenAI 这样的公司偶尔会承诺暂停或延迟其最前沿的AI开发，但这些承诺往往是短暂的。
- 激烈的市场竞争：公司为了回报投资者，无法在竞争中长期让步。
- 集体行动的困境：如果竞争对手不跟进，单方面的放缓几乎没有意义。Anthropic 和谷歌等公司都曾承诺放缓，但后来又撤回了这些承诺。
数据中心禁令治标不治本
公众对数据中心的抵制日益高涨，多地已出台限制或禁止令。然而，这并非有效的解决方案。
- 地理上的灵活性：公司可以轻易地将数据中心转移到其他州或国家。
- 无法解决根本问题：即使在美国全国范围内禁止，也无法阻止中国等其他国家继续发展，这反而可能使美国在地缘政治中处于不利地位。
唯一的出路：国际条约
减缓AI发展的唯一可行路径是达成一项国际协议，特别是需要美国和中国的共同参与。这一观点得到了AI公司内部、政策制定者和国家安全专家的普遍认同。
“很难设想一个有意义的减速方案，会不涉及某种形式的美中协议。” — 托马斯·拉森 (Thomas Larsen)，AI Futures Project 首席研究员
这个想法借鉴了冷战时期的核军备控制经验。AI的训练过程存在一个关键的物理瓶颈，这为监管提供了可能。
- 关键的物理瓶颈：训练强大的AI模型需要海量的、由少数公司生产的先进芯片，并集中在大型数据中心内。
- 可行的监控手段：就像铀和浓缩设施在核协议中的作用一样，芯片和数据中心可以成为AI协议的监控重点。
- 实施机制：通过限制公司可用于训练模型的芯片数量，可以有效减缓其发展速度。这可以通过现场检查、追踪芯片销售和监控芯片用途等方式来执行。
政治上的可能性
尽管促成美中协议在政治上极具挑战性，但两国国内的动态都可能发生变化。
在中国，政府对“控制”的重视可能促使其将失控的AI视为威胁。中国国家主席习近平近期也表达了对AI发展速度的担忧，并提及需要政府监督以“防止失控”。
在美国，尽管存在推动AI发展的强大声音，但公众对数据中心的普遍反对（超过75%的美国人反对在附近建造）可能会催生更广泛、更有效的AI监管框架。这种从地方环境问题开始的公众运动，与反核运动的起源有着惊人的相似之处。