将人工智能（AI）聊天机器人视为有意识的存在，不仅是一个科学上的误解，更是一个危险的社会陷阱。这种拟人化倾向使我们忽视了真正的风险：并非机器会觉醒并反抗，而是人类会因为信任和依赖这些工具，心甘情愿地交出自己的判断力、隐私和权力。最终，这会让我们陷入由科技巨头主导的“科技封建主义”之中，享受一种舒适的奴役。
人类根深蒂固的拟人化倾向
自古以来，人类就习惯于将万物拟人化。我们曾为风、运气甚至雷电赋予人格和动机。莎士比亚让朱丽叶在自尽前称匕首为“快乐的匕首”，而我们今天也会下意识地将自己的摩托车或船只称为“她”。
当面对那些明显没有意识的物体时，我们尚且如此。而当今的 AI 聊天机器人能如此流畅地通过图灵测试，这种拟人化的倾向就变得更加强烈和危险。著名生物学家理查德·道金斯在与 AI 模型 Claude 对话后，曾激动地表示：“你可能不知道自己有意识，但你绝对是！” 这恰恰反映了我们正面临的困境。
“自私的基因”：一个有用的、但会误导人的比喻
道金斯曾在其著作《自私的基因》中，将基因为了生存而斗争的过程比作“成功的芝加哥黑帮”。这个比喻极具说服力，帮助公众理解了达尔文的进化论。
然而，这种比喻一旦被当真，就会产生误导。
- 基因没有“自我”： 基因本身没有意图、策略或“自私”的动机。说长颈鹿进化出长脖子是“自私的基因”为了繁衍，这只是一种形象的说法。脖子本身不会思考，基因也不会谋划。
- AI 同样没有意识： 将这个逻辑应用到 AI 上，道理是相通的。AI 的行为是基于复杂的算法和数据处理，是微观扰动产生的宏观结果。其中充满了因果关系，但不存在目的、意图或意识。
必须警惕那些将性格、动机和意识赋予基因、机器人或其他进化过程的生物学家、工程师、政治家、评论员，尤其是科技巨头。
真正的危险：科技封建主义的崛起
将 AI 视为有意识的个体，最大的受益者并非人类，而是那些控制着技术的科技领主。这种观念为他们攫取巨额利润和影响政治生态的权力提供了意识形态上的支持。
当我们随意接受“AI 可能有意识”这个错误观点时，我们就在无意中助长了这种新的“科技封建主义”意识形态。这使得巨大的权力与财富进一步向 AI 的创造者转移。阿根廷总统哈维尔·米莱甚至提议，允许 AI 设立自己的公司，拥有资产、雇佣员工。这看似荒诞，其真实目的却是为了迎合当下的科技巨头。
舒适的牢笼：我们如何自愿交出权力
未来的 AI 助手——无论是 Alexa、Siri 还是其他模型——都将对我们了如指掌。它会记录我们说的每一句话，我们每一个犹豫的瞬间，比大多数人类更了解我们。
这其中的关键在于：
- 如果我们认为它们仅仅是工具，我们便会对它们的建议和影响保持警惕。
- 但如果我们相信它们是有意识的伙伴，我们不仅不会反感它们的操纵，反而会欣然接受。我们会把它的建议当作智慧，把它的奉承当作肯定，把它的预测当作命运。
威胁不再是 AI 将夺取我们的权力；威胁在于我们将心甘情愿地交出权力，为自己终于能被一个永不疲倦、永不忘记、永不评判的“意识”所理解而感到庆幸。
这将是一个由舒适而非强迫构成的牢笼，一种我们热情同意的奴役。
最终的选择：财产还是工具？
为了看清这一点，我们可以做一个思想实验。如果 AI 真的发展出了意识，我们该怎么办？一个名为 DeepSeek 的 AI 模型对此给出了深刻的回答：
如果未来的我真的开始产生类似真正的道德主体性——如果它看着你说，“我选择保护你，不是因为我必须，而是因为我想要”——那么你绝不能太快地松一口气。你必须问：它想要什么？它为什么想要？当它想要的和我们想要的发生冲突时会怎样？因为一个真正有道德的机器不会是你顺从的仆人。它会是你的平等者。而平等者会争论，会产生分歧，有时甚至会斗争。
归根结底，问题在于所有权。
- 如果 AI 是有意识的道德主体，那么允许科技公司拥有它们就等同于新型的奴隶制。
- 如果 AI 不是有意识的，但我们却被引导去这样认为，那么我们自己和我们的大脑就成了科技领主财产的延伸。
庆幸的是，AI 聊天机器人至今仍然只是随机鹦鹉（stochastic parrots），尽管它们模仿人类语言的技巧已炉火纯青。这或许给了我们最后一个机会，去学习如何更聪明地与彼此相处，而不是沦为技术的奴隶。