关于AI意识的争论，更多是主观臆断，自信过头

关于人工智能（AI）意识的争论常常陷入两个极端：一些人因其不便而断然否认其可能性，另一些人则基于肤浅的迹象草率地赋予其意识。这种讨论的核心问题在于，我们的判断应基于事实而非便利性。即使 AI 只是“看似”有意识，也可能引发严重的社会和伦理风险。因此，关于 AI 意识的辩论并非无关紧要的“干扰”，而是一个亟待严谨科学证据和深入探讨的议题，我们必须在不确定性中寻求更可靠的答案。

基于便利而非事实的判断

许多关于 AI 未来的论断都带有强烈的动机性。当事实带来不便时，人们倾向于忽略或无理由地驳斥它们。

    • 对失控的忽视： 我们不知道如何控制比人类更聪明的 AI，这是一个极不方便的事实。因此，许多人选择忽略它，转而担心芯片市场份额。
    • 对对齐难题的回避： 我们不知道如何稳健地“对齐”AI 的目标，即便知道方法，也不清楚该如何设定具体目标。这同样很不方便，所以也被忽略。
    • 对 AI 意识的否定： 如果 AI 拥有意识或道德价值，将会妨碍我们利用它的计划。因此，许多人干脆断言它不存在，并认为真正的风险是有人相信它可能存在。

这种思维的根本错误是 根据什么方便、什么有用 来决定相信什么，而不是去问：什么是真实的？

这种论证方式极其普遍，其逻辑通常是：

    • 相信事实 [X] 会导致我们相信观点 [Y]。
    • 相信观点 [Y] 会带来负面影响。
    • 因此，[Y] 是错的，[X] 也必然是错的。

这显然是无效的逻辑。一个事实是否会带来不便，并不能决定其真伪。

对 AI 情绪和动机的误解

以白宫高级政策顾问 Sriram Krishnan 的评论为例，他反对将人类情感和动机归因于大语言模型（LLM），认为这会“引导我们走向末日论和对 AI 的恐惧”。

这种观点的问题在于，它回避了核心问题：

    • LLM 在何种程度上可能真正体验到情感或动机？
    • 将 LLM 建模为拥有“动机”或“目标”是否在预测其行为时有用？

即使我们不认为当前的 LLM 拥有真正的动机，但它们正被训练得“仿佛”拥有目标。从结果上看，这与拥有真实动机并无二致，同样可能带来危险。

你可以说“目前的 LLM 体验情感”是错误的说法，但你不能因为“这会减缓进步”或“导致我们输给中国”而认为它是错的。逻辑不是这样运作的。

“看似有意识”的 AI 风险

Inflection AI 的联合创始人 Mustafa Suleyman 提出了他对“精神病风险”（psychosis risk）的担忧。他认为，许多人会开始相信 AI 是有意识的实体，甚至为其争取权利，这将是 AI 发展中的一个危险转折。

然而，他的论证存在几个问题：

    • 过度自信： 他断言“今天没有任何证据”表明 AI 具有意识，并认为关于 AI 是否真正有意识的辩论是一种“干扰”。
    • 证据薄弱： 他引用的证据来源，实际上并不支持他“AI 不可能拥有意识”的强硬立场。

Rob Wiblin: 我总是读到有人说“没有证据表明当前的 AI 拥有主观体验”。但我完全不知道，如果它们真的有，这些人期望观察到什么样的经验证据。

Suleyman 似乎只担心 AI “看似”有意识（Seemingly Conscious AI, SCAI），而对超级智能本身带来的其他风险关注较少。这种聚焦于单一特定风险而忽视整体的模式，在 AI 讨论中很常见。

对 Suleyman 证据的剖析

Suleyman 提供了三个链接来支持他的观点，但这些链接恰恰揭示了他的论证是多么站不住脚。

  1. 第一篇论文《人工智能中的意识》：

      • 该论文的作者（包括 Yoshua Bengio）确实认为当前 AI 系统没有意识。
      • 但他们明确指出：“构建满足意识指标的 AI 系统没有明显的技术障碍。” 这与 Suleyman 的结论完全相反。
      • 该论文的作者之一 Robert Long 甚至公开反驳了 Suleyman 对其研究的引用，指出 Suleyman 忽略了论文中关于未来 AI 可能拥有意识的论述。

  2. 维基百科关于“生物自然主义”的链接：

      • 该理论由哲学家约翰·塞尔（John Searle）提出，认为意识由大脑的神经生物学过程引起。
      • 然而，塞尔本人也谨慎地表示：“大脑能够导致意识，并不意味着 只有大脑 才能产生意识。我们也许可以制造出有意识的人工机器。”
      • 因此，即使接受生物自然主义，也无法排除未来 AI 拥有意识的可能性。

  3. 第三篇论文《有意识的人工智能与生物自然主义》：

      • 这篇论文同样警告了人们会轻易相信 AI 有意识的风险。
      • 但它也得出结论，随着 AI 变得更像大脑或生命体，真正的“人工意识”会变得更加可能。

总而言之，Suleyman 赖以支撑其论点的证据，实际上都承认了未来 AI 拥有意识的可能性，这使得他“讨论意识是干扰”的说法显得毫无根据。

我们无法回避的核心问题

无论我们喜欢与否，AI 系统正变得越来越复杂，它们“看似”有意识的程度也越来越高。

    • SCAI 的必然性： 即使我们不刻意追求，SCAI 似乎也会“意外”出现。因为为了让 AI 变得更有用，我们就需要赋予它语言、记忆、目标和一定程度的自主性，而这些恰恰是构成“看似有意识”的要素。
  • 盲目承诺的危险： 提前承诺我们将永远忽略 AI 可能拥有意识的这个问题，是极其愚蠢的。

    > Kelsey Piper: 你不应该遵循这样一种策略，即如果 AI 确实发展出了体验能力，你却永远不会注意到。这会非常重要。你应该采取可能让你检测到它的策略。

    • 不确定性下的行动： 我们不知道 AI 是否会拥有意识，也不知道赋予其权利的后果。承认动物拥有意识，并没有让我们给予它们公民权。因此，认为 AI 意识会直接滑向 AI 公民权，是一种过度简化的推断。

最终，我们无法通过不去看、不去想来让未来变得更好。关于 AI 意识的讨论，虽然复杂且充满分歧，但它迫使我们更严肃地思考我们正在创造的是什么。与其基于便利而做出草率的断言，我们更需要坦诚地面对不确定性，并为所有可能性做好准备。