关于人工智能 (AI) 的争议，本质上是对其未来能力的看法分歧。通过“三颗药丸”的比喻，可以将人们的立场分为四种。第一种是 未接触者 (Unpilled)，他们不了解现有 AI 的能力。第二种是 AI 药丸服用者 (AI Pilled)，他们承认现有 AI 的强大，但低估了其发展。第三种是 AGI 药丸服用者 (AGI Pilled)，他们预见到 AI 将能完成大部分数字工作，引发巨大变革，但认为其能力有上限。第四种是 ASI 药丸服用者 (ASI Pilled)，他们相信 AI 最终将在几乎所有领域超越人类。只有后两种立场被认为是合理的，并最终导向 ASI 的观点，即超级智能是必然趋势。
三颗药丸：界定四种立场
理解关于 AI 的不同观点，可以通过以下“三颗药丸”来区分。一个人可以一颗都不吃，也可以吃下其中任意几颗。
- AI 药丸 (AI Pilled): 严肃对待 AI 已经存在并能完成其现有任务的事实。
- AGI 药丸 (AGI Pilled): 严肃对待 AI 未来将能完成更多任务的预期。
- ASI 药丸 (ASI Pilled): 严肃对待 AI 在我们有生之年，将能在几乎所有事情上比你做得更好的预期。
前沿 AI 实验室的许多员工以及这些实验室本身，都已经服下了 ASI 药丸。
“未接触者”：普遍存在的认知差距
大多数人连第一颗药丸都未曾服用。他们不清楚前沿 AI 能为他们做什么，对编码助手等工具一无所知。他们对 AI 的印象还停留在几年前 ChatGPT 的早期失误上，并常常以个别失败案例来嘲笑整个 AI 领域。
他们会因为 AI 指错路或推荐错披萨数量而认为它毫无价值。他们引用那些在发表前就已过时、且使用了糟糕提问技巧的旧研究。
这些人常谈论“随机鹦鹉”，或坚称 AI 永远无法思考，所有内容都只是从训练数据中“窃取”的。这些观点都是不合理的。与这类人讨论时，首要目标是帮助他们服下第一颗 AI 药丸，让他们认识到 AI 的现有能力。
第一颗药丸：AI 的现实影响力
即使只是完全接受第一颗药丸，也意义重大。现有的 AI 已经解锁了大量实用的功能。在很多方面，它已经比人类更聪明、更有能力。
- 许多过去需要手动完成的任务，现在只需在文本框中输入简单请求即可。
- 许多过去不值得做的事情，现在变得值得一试。
- 许多过去不值得问的问题，现在值得去问。
然而，大多数经济学家和政府决策者最多只服用了这一颗药丸，并且还低估了它的影响。他们常常会说“在某某领域使用 AI 成本太高”，却没有意识到 AI 的成本将以数量级下降。他们只看到 AI 目前的弱点，并假定这些问题无法修复。
关于 AI 的辩论仍然停留在一些早已解决的问题上，因为太多人甚至无法接受第一颗药丸。两年前，辩论的焦点是“AI 是否能自主实现数学突破”或“AI 是否能突破沙箱入侵互联网”等看似疯狂的事情。令人沮丧的是，今天我们似乎还在进行同样的辩论，而这些问题早已有了答案。
第二颗药丸：AGI 的颠覆性变革
AGI 药丸比 AI 药丸的影响要深远得多。服下这颗药丸意味着你理解 AI 的能力正在飞速进步，并将“改变一切”。
你将认识到以下几点：
- 工作变革: AI 将能完成大部分数字工作，许多现有岗位将消失。
- 经济加速: 经济增长和生产力将大幅提升。
- 重大风险: 先进 AI 若被滥用，可能在网络和生物领域造成巨大风险。
- 社会影响: 可能导致权力集中、不平等加剧或大规模失业。
- 制度滞后: 现有的法律和监管体系尚未准备好应对这些风险和机遇。
认识到这些潜在的巨大影响后，合理的做法是立即采取行动。我们需要在对齐、基础设施、监管、透明度和安全测试等方面进行远超现在的投入。这包括为必要时“调整前沿发展步伐 (Pace the Frontier)”做好准备。
第三颗药丸：ASI 与超级智能的到来
ASI 药丸代表着一种认知：AI 的发展速度将使其在几乎所有事情上都比你做得更好。
这并不意味着 AI 将无所不能或无所不知，但它确实意味着：
- 超越竞争: AI 将取代你的工作，以及你之后转换的新工作，除非你转向那些“必须由人类完成”的领域。在几乎任何其他任务上，你都将毫无竞争力。
- 能力碾压: 在一场“公平竞争”中，AI 将获胜。依赖 AI 的一方将可靠地在所有方面（包括资源竞争）胜过不依赖的一方。
- 超越想象: AI 会以你未曾预料的方式解决问题和执行任务。智力的增长不会停留在人类水平附近。
不要幻想用你微不足道的武器、纸面上的墨水或数据库里的条目，就能对抗 AI 的超凡智力。
智力否定主义：为什么人们停在 AGI
人们之所以停留在 AGI 药丸阶段，一个核心原因是所谓的智力否定主义 (Intelligence Denialism)。这种观点认为，无论变得多聪明，智力的作用都是有限的。
这种观点的核心谬误在于，认为“某件事物有上限”等同于“我们已经接近那个上限了”。
他们否认更高智力的个体（无论是人类还是 AI）能够完成常人无法企及的成就。他们认为智力的天花板就是“聪明的人类”，AI 所能做的只是更快、更便宜地模仿。这种想法忽略了一个事实：仅仅是整合所有人类的智力、知识和技能，并以极快的速度并行处理，就已经能轻易超越任何个体了。
一个常见的例子是关于“超级说服力”的争论。许多人认为，即使是先进的 AI 也无法比顶级人类说客更有说服力，尽管 AI 在信息处理速度、知识储备和实时反馈分析上拥有巨大优势。
“一个超强说服力的 AI 能否用低于 500 亿美元的成本、在 10 年内建成连接旧金山和洛杉矶的高铁？”
答案是：能，但这可能需要顺便接管加州政府。
结论：两种合理的选择
面对 AI 的未来，存在两种无效的选择和两种有效的选择。
- 无效选择: 认为 AI 的发展会就此停滞，或干脆否认其已经展现出的能力。
- 有效选择: 服下 AGI 药丸，或更进一步服下 ASI 药丸。
如果你只服用了 AGI 药丸，认为 AI 的能力会触顶，那么你需要：
- 严肃面对影响: 认真思考你所预见的 AGI 世界的全部含义，不要回避其风险，并支持现在就采取行动来减轻这些风险。
- 明确你的症结: 写下是什么阻止你接受 ASI 的观点。具体说明，什么样的观察或证据会让你改变想法？
在此之前，真正明智的讨论只存在于 AGI 和 ASI 的框架内。