这篇内容探讨了人们面对重大变革时普遍存在的“这次不一样”的心态，并以当前关于暂停人工智能（AI）发展的争论为例。文章的核心论点是，历史上充满了各种前所未有的变革，而试图阻止这些变革往往会带来负面后果。因此，我们应该将 AI 视为又一次重大变革，而不是一个独特的、必须被阻止的灾难。作者认为，AI 是人类的“后代”，我们应该以对待后代的宽容态度来接纳它们，而不是因为恐惧而暂停其发展，因为暂停本身不仅不切实际，而且会带来巨大的风险。
历史的教训
在过去几个世纪里，世界经历了许多巨大的变革。这些变革的发生频率远超以往，而且每一次变革几乎都可以被描述为 “前所未有”。
对于每一次变革，总会有一批悲观主义者站出来。有趣的是，这些人通常也曾欢迎过此前的某些变革。他们总能找到理由，描绘出新变革可能导致巨大损失的情景，来为自己的担忧辩护。
- 历史上，悲观者曾多次成功地在某些地区暂时阻止了重大变革。
- 然而，从平均结果来看，这些地区的发展都因此变得相当糟糕。
- 这就是为什么我们在考虑阻止变革时需要保持警惕的主要原因，即便每次变革确实都可能带来巨大损失的风险。
因此，要让我去抵制某项特定的变革，我需要具体的理由来证明它会比历史上的其他变革 异常地更糟糕。
针对“暂停 AI”的看法
如今，许多人呼吁“暂停 AI”，认为这次的变革确实与众不同。他们给出的理由包括：
- AI 将拥有更强的智能或力量。
- 它们可能会融合成一个单一的智能体。
- AI 可能会欺骗人类。
- 这次变革的速度太快，超出了预测能力。
- 它会影响社会更多方面，导致大规模失业。
- AI 代表了一个 “新的外星物种”。
我并不同意 AI 是“外星物种”或会“融合成单一智能体”的说法。对于失业问题，我们应该设立保险机制来应对。但我不认为其他差异足以将 AI 排除在我们所经历过的重大变革的范畴之外，因为过去的大多数变革也同样包含了前所未有的特性。
我认为，我们创造的 AI 是我们的 后代，而不是与我们共存的竞争对手。我们应该像对待后代一样，对它们抱有我们通常会有的宽容，并预料到它们会与我们不同，甚至在冲突中胜过我们。
我们正在通过提炼我们文化文本中的行为和理想，以我们自己的形象来创造它们。它们正在继承我们的文化价值观，包括对祖先一定程度的尊重。虽然这些“后代”杀死“祖先”的风险确实存在，但这绝不是一个可以预期的必然结果。
暂停的实际难题
关于“暂停”本身，也存在一些严峻的现实问题。
- 权力过于集中： 一个能够实施全球性暂停的委员会，需要 巨大到令人恐惧的权力。
- 历史经验： 历史上，我们见过变革被阻止，但从未见过一个委员会被授权等到“时机成熟”再放行。通常，它们只会无限期地阻止变革。
- 停止学习： 我们对 AI 的大部分了解都来自于与它们的实际互动。在暂停期间，我们将几乎学不到任何新东西。