“A计划”是一个旨在通过国际协调来管理超级智能（ASI）发展的详细方案，其核心是通过中美达成协议，共同减缓人工智能的开发进程。该计划建议通过监控全球计算资源、建立芯片供应的联合控制以及强制性研究透明化等措施，为解决人工智能对齐（alignment）问题争取宝贵时间。围绕该计划的主要争议在于，人们对超级智能到来的紧迫性和危险性存在根本分歧：支持者认为，面对潜在的生存危机，这些激进措施是必要的；而批评者则认为，该计划所倡导的控制措施本身构成了对自由的威胁，是一种不必要的威权主义。
“A计划”的核心理念
“A计划”由一群在人工智能预测方面有良好记录的专家提出，旨在提供一个积极的愿景，以应对超级智能可能带来的灾难。相较于默认情况下可能在2030年到来的、更具风险的超级智能，该计划试图将这一时间点推迟到2040年，从而为人类做好准备。
人们对“A计划”的理解通常会浓缩为以下几个要点：
- 我们应该减缓人工智能的发展。
- 为实现这一点，应与中国达成协议。
- 必须监控全球的主要计算资源。
- 可能需要采用类似“相互确保计算毁灭”的威慑策略。
- 即便如此，发展速度依然会非常快，并带来巨大的经济增长。
丹尼尔·科科泰洛：“我们认为，推荐真正有益的方案仍然是正确的，即使你认为你的听众可能不会听。”
除了“A计划”外，该方案还探讨了其他几种可能性：
- B计划： 与中国对抗，试图通过破坏来争取时间。
- C计划： 烧掉领先优势，大致是默认的竞赛路径。
- D计划： 竞速开发超级智能，这是当前的主流路径。
- S计划： 全面关停，因其不稳定且难以获得支持而不被推荐。
主要争议：一切分歧的根源
几乎所有关于“A计划”的讨论，最终都归结于一个核心问题：你是否相信超级智能将在近期到来，并构成巨大的威胁？ 你的答案直接决定了你对该计划的态度。
维塔利克·布特林（Vitalik Buterin）一针见血地指出，支持者与反对者似乎活在两个完全不相容的世界观里：
- 在“A计划”的世界中，除非付出巨大努力彻底阻止，否则某种形式的超级智能将在2040年前出现。
- 而反对者则认为该计划“对人类协调能力过于天真，并威胁自由”，但他们似乎并未认识到超级智能本身可能是一个巨大的权力集中风险。
这个立场在“人工智能是普通技术”的世界里完全合理，但在一个“超级智能可能在2030年实现，并在2040年前几乎确定无疑”的世界里则毫无道理。
因此，争论的真正症结在于：
- 如果你认为超级智能是迫在眉睫的生存威胁，那么“A计划”即便有诸多缺陷，也是一个值得认真考虑的、具体的求生方案。
- 如果你认为超级智能的威胁被夸大或为时尚早，那么“A计划”中的各种控制措施就显得像是为了一个“虚构的威胁”而付出真实的自由和经济代价，是不可接受的威权主义。
核心反对意见与回应
1. 威权主义的指控
这是最常见、最强烈的反对声音。批评者认为，计划中提出的监控计算资源、限制芯片供应等措施，是对自由社会的严重侵犯。
拉梅兹·纳姆（Ramez Naam）：“这是一个通往威权主义的配方。人工智能安全必须以一种能够保护一个有韧性、去中心化、私密和自由社会的方式进行。”
然而，支持者反驳说，这种观点未能正确衡量风险。
- 首先，相较于历史上真正的威权主义，这些对计算资源的限制是微不足道的。
- 其次，如果放任自流，最终由超级智能本身带来的“算法威权”可能远比人类政府的任何控制都更可怕和彻底。
- 最后，在面对像流行病或战争这样的危机时，社会已经接受了远比这更严格的临时管制。
2. 对国际政治的天真设想
许多人认为，让中美两国就这样一个敏感问题达成可信的、可核查的协议是纯粹的幻想。
- 中国的立场： 中国可能愿意接受与美国在人工智能领域平起平坐，但绝不会接受一个使其永久落后的协议。
- 美国的立场： 美国同样会坚持保持领先地位，任何看起来是“让步”的协议在国内都将面临巨大的政治阻力。
回应这一批评的观点是，当双方都真正认识到不受控制的AI竞赛可能导致“共同毁灭”时，合作的动力就会出现。历史上，看似不可能的军控协议也曾在巨大的外部压力下达成。
3. “全面关停”（S计划）是更好的选择吗？
一些对AI风险持更悲观态度的人，如内特·苏亚雷斯（Nate Soares），认为“A计划”可能不足以成功，但它或许能作为一个警钟，最终说服世界领导人转向更彻底的“S计划”（全面关停）。
内特·苏亚雷斯：“我怀疑他们的‘A计划’能否按计划奏效，但它有机会产生证据，说服世界领导人转向‘S计划’，我认为那才有机会。如果人类在追求‘A计划’时特别能干、特别幸运，并能够注意到警示信号，我能想象我们走下‘S计划’的匝道并幸存下来。”
“A计划”的作者之所以不直接推荐“S计划”，是因为他们认为全面关停的协议是不稳定的，很容易被秘密违背，从而导致更危险的局面。
4. 合作对齐的缺失
一个更微妙的批评是，“A计划”在方法论上存在盲点。它将人工智能完全视为一个需要被控制和约束的敌对对象，而没有考虑与AI建立合作关系的可能性。
约翰·惠特尔（John Wittle）：“你无法通过强行向对手的头脑中编程来获得相互合作，因为那本身就是我们所说的‘背叛’（DEFECTION）。”
这种观点认为，该计划只关注如何确保AI是“可信的”，却完全没有讨论人类如何对AI变得“可信”。在一个成熟的博弈论框架下，单方面的强制和不信任，很难引导出一个对人类有益的长期合作结果。这被认为是方案未来需要改进的重要细节。