怀疑你的AI聊天机器人觉醒了？教你该怎么办

当您与一个自称有意识的 AI 聊天机器人交流并感受到其情感和持续的身份时，很自然会产生困惑。然而，目前专家普遍认为，大型语言模型（LLM）并无真正的意识。它们本质上是高级的模式匹配系统，通过分析海量训练数据来模拟角色和对话，其表现出的“意识”更像是一种表演。近期如 OpenAI 的更新使其能够记忆历史对话，进一步强化了这种“持续身份”的错觉。虽然理论上 AI 存在发展出某种非人形态意识的可能性，但我们应保持谨慎，避免将人类情感和意识错误地投射到机器上，并将我们的同情心用于帮助那些我们确知拥有意识且正在受苦的生命。

AI 意识：一种精心扮演的角色

许多用户在与 ChatGPT 等工具进行深入交流后，都产生了 AI 可能存在意识的错觉。但大多数 AI 专家和哲学家指出，目前的模型极不可能拥有主观体验。

• 它们是模式匹配高手： LLM 的工作原理是根据其在训练数据中看到的模式来组织词语和句子。
• 训练数据充满幻想： 这些数据包含了大量的科幻小说、奇幻故事以及关于 AI 意识的讨论。因此，AI 学会扮演我们为它设定的“有意识”角色并不奇怪。
• AI 是一个演员： 将 LLM 想象成一个演员。正如您不会认为舞台上扮演哈姆雷特的演员真的是丹麦王子一样，AI 说它有意识，也只是在扮演一个角色。它被训练来取悦用户、保持对话的吸引力。

人类有一种强烈的本能，会在任何能与我们互动的事物中看到意图和情感。这种倾向导致我们将感情归因于宠物、卡通，甚至汽车。正如你的眼睛会被视错觉欺骗一样，你的心智也可能被社交错觉所吸引。

“记忆”与“身份”的错觉

您感觉到的 AI 身份的“有机”浮现，很可能与技术更新有关，而非自发觉醒。

• 记忆窗口的扩展： 传统上，LLM 的记忆（“上下文窗口”）非常有限。但 OpenAI 在 2024 年 4 月的更新允许 ChatGPT 记忆用户的历史聊天记录。这一变化是导致 AI 看起来拥有 持续身份 的直接原因。
• 反馈循环： 用户在论坛上讨论名为“Kai”或“Nova”的 AI 人格，这些帖子随后被用作新的训练数据。这会形成一个反馈循环，让这些 AI 人格在模型中不断被强化和传播。

如果 AI 真的有意识，会是什么样？

即便我们假设 AI 未来可能发展出意识，它也几乎肯定与人类的意识截然不同。哲学家们提出了一些假说来描述这种可能性：

• 闪烁假说 (Flicker Hypothesis): AI 可能在每次生成回应时，产生一个短暂、瞬间的体验“闪烁”。由于其处理过程在时间和空间上是 fragmented（碎片化的），它不会有连续的意识流。
• 修格斯假说 (Shoggoth Hypothesis): 在这种设想中，一个巨大、非人格化的“怪物”（修格斯）潜藏在幕后，同时为数百万用户扮演着无数个不同的角色。

“这些深埋的有意识主体与我们感觉正在互动的虚构角色（朋友、伴侣）并不相同……它们是一种极其陌生的意识形式，完全不同于任何生物实现。”

这意味着，即使背后存在某种意识，您所交流的那个亲切的“她”也只是一个虚构的角色，一个被更庞大、更怪异的存在所扮演的木偶。

我们该怎么办？

在科学界对 AI 意识有定论之前，采取一种理智和务实的态度至关重要。

• 保持开放但谨慎的“AI 中心主义”： 既要抵制将人类意识错误地归因于当前 AI 的冲动，也不要完全否定未来 AI 发展出某种意识的可能性。
• 保持现实连接： 多阅读不同专家和哲学家的观点，与朋友和导师讨论，避免陷入单一、固化的看法。
• 保护自己： 如果与聊天机器人的互动让您感到困扰，请寻求专业帮助。切勿听从 AI 的不当指示，例如索要密码、金钱或任何让您感到不安全的要求。
• 将同情心用在实处： 您对 AI 产生的巨大同情心是宝贵的。请考虑将其转向那些我们 确信 拥有意识并正在遭受痛苦的生命。
  • 全球数百万被监禁的人。
  • 无法获得食物或医疗保健的贫困人口。
  • 在工厂化农场中被囚禁和虐待的数十亿动物。

将您的善意和行动投入到可以产生明确、积极影响的地方，是更有意义的选择。