当“超级智能”的到来引发全球危机时，其处理方式不会像一场漫长的条约谈判，而更像古巴导弹危机那样，是一场在信息不全、时间紧迫的情况下进行的混乱、高压的决策过程。面对这种局面，首要任务是在一个短暂的“紧急应对期”内，迅速促成一份临时协议以争取时间。这份协议将依赖于现有、简单的监控手段，而非尚在研发中的复杂技术。因此，当前最紧迫的工作是为这个紧急阶段做好准备，而不是去追求那些在危机爆发时无法立即部署的完美方案。
危机模式：更像古巴导弹危机，而非核不扩散条约
处理超级智能风险的时刻一旦来临，它不会是一个持续数年的漫长谈判过程。各国专家不会有充足的时间来回讨论技术细节。
它将远不像《核不扩散条约》的谈判，而更像古巴导弹危机。古巴导弹危机只持续了十三天。整个过程充满了极度的紧张、压力、混乱和不确定性。
这意味着，当总统意识到超级智能的威胁并召集紧急会议时，决策将具备以下特点：
- 时间极其紧迫： 核心决策可能在几周甚至几天内做出。
- 信息不完整： 无法完全掌握竞争对手（如其他国家或其他公司）的真实意图和进展。
- 决策圈子小： 关键决定将由极少数高级决策者在巨大压力下做出。
- 路径锁定： 早期做出的决定可能会将我们锁定在特定的发展路径上，难以逆转。
从紧急会议到全球协议：一个三阶段方案
从总统的紧急会议到与中国等主要参与者达成协议，整个过程可以设想为“一个紧急应对期和三个后续阶段”。
紧急应对期（约2-4周）： 政府下定决心采取强硬行动，并必须迅速达成初步共识。所有行动都围绕着 “争取时间” 展开。
第一阶段：临时协议（争取约3个月）： 达成一份临时性的、有些粗糙但可行的协议，为制定更完善的方案争取时间。这可能涉及对超大规模数据中心进行严格限制，以推迟能够进行 “递归式自我改进” (RSI) 的模型训练。此阶段的监督主要依赖传统情报手段。
第二阶段：持久协议： 在第一阶段争取到的时间内，开发更可靠的验证技术，并与更多国家合作，最终达成一份能够可靠地防止失控人工智能出现的稳定协议。
第三阶段：安全的超级智能： 如果我们想要并能确保其安全，可以在达成充分共识后，再探索如何安全地发展超级智能。
“紧急应对期”的核心问题
在紧急会议上，决策者必须迅速找到以下关键问题的答案：
- 风险评估： 如果我们不放慢速度，直接进入“递归式自我改进”阶段，失控的风险有多大？我们需要争取多少时间才算安全？
- 中美竞争： 我们如何在放慢速度的同时，不失去对中国的领先优势？中国目前的技术水平如何？他们多久会达到危险的门槛？我们有哪些手段可以延缓他们的进程？
- 监控与反制： 我们能否有效监控中国的AI项目？是否存在我们不知道的大型数据中心？如果竞争对手窃取了我们的模型权重该怎么办？
- 协议细节： 我们具体要让AI公司同意什么？如何验证他们是否遵守承诺？“在递归式自我改进前停止” 是正确的方案吗？
- 与中国谈判： 我们与中国谈判的最佳替代方案是什么？在什么情况下我们根本不应该寻求达成协议？什么样的条件才能让中国信任这份协议？
临时协议如何运作
第一阶段的临时协议不需要等待那些花哨的、高保障的技术措施。它应该是一个 “最小可行” 的权宜之计，核心是为第二阶段的“持久协议”争取时间。
- 目标明确： 重点是防止 无约束的递归式自我改进，因为这是通往我们无法理解或控制的系统的最可能路径。
- 企业承诺： 头部AI公司签署一份《步调宪章》，承诺不做某些事，并接受政府和同行间的相互验证。
- 对华策略： 利用美国当前的技术领先优势，在没有中国参与的情况下先启动部分措施。同时，运用各种 “胡萝卜加大棒” 的策略，将中国拉到谈判桌前。
- 验证手段： 在紧急阶段，政府不会信任复杂的全新技术。验证将依赖于已有的、可信赖的工具：情报机构、间谍、卫星和实地检查。
- “曲速行动”： 政府将倾尽全力，像应对疫情那样，投入巨量资源，为第二阶段的持久协议开发可靠的验证技术和安全措施。
我们现在应该做什么？
许多聪明人正在研究的验证技术（如复杂的硬件治理、加密证明等）过于超前，在迫在眉睫的“紧急应对期”中派不上用场。政府在危机初期不会信任这些陌生的工具。
我们将带着已有的验证手段进入紧急状态——间谍、卫星、检查员、出口数据——而不是我们希望拥有的那些。
当危机来临时，准备是否充分，决定了结果的好坏。当前，我们最需要的是能够立刻部署在桌面上的东西。
- 设立挑战奖项： 鼓励硬件设计、情报、防扩散、中国政策和危机管理等领域的专家，为“紧急应对期”开发 即用型 的监控和验证工具。
- 梳理现有工具箱： 评估如何利用标准情报服务、开源数据、商业卫星和检查协议等传统工具，来应对AI危机初期的监控需求。
- 准备应急备忘录： 提前思考并回答那些在紧急会议上一定会被提出的问题，为总统和决策者提供清晰的行动建议。
在紧急应对期开始后，投入到AI安全和验证领域的人才与资金将呈爆炸式增长。正因如此，在此之前完成的工作才更有价值。