神经科学家安尼尔·塞思认为，尽管人工智能正在改变我们对心智的看法，但将大脑比作计算机是一种误导。他通过章鱼、动物意识和语言模型的比较，强调人类心智无法脱离身体、情感和生命过程。塞思的核心观点是，意识并非源于纯粹的信息处理，而是根植于一种原始的“活着的感觉”。因此，我们更应该将自己视为与自然紧密相连的生物，而非可以被算法完全解释的“统计抽象”。
我们与机器的双向凝视
我们常常通过自己创造的东西来看待自己。长期以来，大脑一直被想象成一种计算机。随着人工智能系统变得越来越像“智能”，这种旧的比喻似乎变得更加具体，强化了我们可能“不过如此”的想法。
- 随机鹦鹉的反思：当有人批评大型语言模型只是“随机鹦鹉”——即通过计算统计概率来模仿人类语言，却不真正理解其含义时，一些人反驳说：“也许我们人类也就是随机鹦鹉。”
- 机械化的危险：塞思认为，这种思路有“将我们的心智机械化”的风险，这是一种“对人之所以为人的贬低和简化”。
我们与语言模型在许多方面都不同，包括生活经验、意识，以及我们的物质构成。如果我们将自己看作“具身的算法”，我们就会失去那些定义我们自身的最有趣的东西。这种框架逐渐将我们与自然界分离开来。
“八爪鱼的心智是一场独立进行的进化实验，是我们在这个星球上最可能遇到的外星心智。”
尽管八爪鱼的意识如此“陌生”，但塞思坚信，它们仍然是我们的真正亲族，而人工智能可能永远不会是。
当心智失去了身体
将自己与机器等同起来的倾向，源于一场更古老的斗争：我们总想理解自己在自然中的位置。当某些事物难以解释时，我们便会求助于比喻。
- 心脏的比喻：说心脏是一个“泵”，这个比喻不错，因为它在某种程度上确实是一个泵。
- 大脑的比喻：但说大脑是一台“计算机”，则是一个更具争议性的论断。它假设了心智可以脱离其生物基础而存在。
这种思想可以追溯到笛卡尔，他将心智视为一种可以脱离身体存在的“思维实体”。这也许就是为什么大型语言模型如此诱人——它们呼应了我们长期以来视为人类智慧顶峰的能力：语言和智力。
“我们不是认知计算机，我们是感觉机器。”
塞思后来承认，这其实也是一种“错误的对立”。神经科学家已经证明，情感本身对于认知至关重要。没有身体输入和情感，我们就无法做出好的决策。
大约90年前，两个发展使得“心智可以脱离生物细节”的抽象成为可能：
- 阿兰·图灵定义了计算是独立于媒介的。算法只关心符号映射，物理载体无关紧要。
- 麦卡洛克和皮茨证明，简化的神经元可以实现图灵计算。
这种强大的抽象催生了现代人工智能，但也让我们陷入一种误解：如果算法就是一切，那么大脑的新陈代谢、化学反应和生命质感似乎都只是无关紧要的“实现细节”。塞思认为，这正是“我们走错了一点路”的地方。
AI 镜子中的新问题
塞思并不认为我们应该放弃人工智能。相反，我们可以利用AI模型来更好地了解自己，而我们越是这样做，就越会意识到我们与它们有多么不同。
- 语言的边界：语言曾被视为人类独有的领地。现在，语言模型能流利地“说话”，这个事实本身就动摇了旧的边界。
- 动物的“语言”：与此同时，人工智能正在帮助我们解码海豚等物种的叫声，揭示出比我们想象中丰富得多的动物交流方式。
- 无意识的理解：塞思提出一个问题：“无意识地理解某件事是可能的吗？”他认为答案是肯定的。也许，认为“理解”和“意识”必须同时存在的想法，本身就是人类中心主义的又一个回响。
根植于身体的感觉
塞思坚信，当前的AI系统不具备意识。而许多AI仍然难以掌握的能力，恰恰是生物在有意识时所展现的。
人类与AI在认知上存在根本不同：
- 学习方式：我们从极少的例子中学习，并能快速泛化，消耗的能量也远少于AI。
- 时间流逝：人类的认知在连续的物理时间中展开。我们不能像算法一样陷入无限循环，因为我们会饿、会渴。时间的压力迫使我们行动，打破僵局。
- 身体互动：我们通过与环境的物理互动来进行认知，而不仅仅是在一个脱离肉体的大脑中进行计算。
“我们体验世界和我们自己——是凭借、通过并且因为我们活着的身体。”
如果我们将意识等同于独立于载体的计算，就有可能将主观体验错误地归因于那些可能根本不具备它的系统。
回归自然，而非机器
塞思的核心假设是，在每一种意识体验的核心，可能都存在一种“活着的感觉”（foba）。这是一种无形但根本的感受。拿走它，意识也就不复存在了。
“是生命，而不是信息处理，为体验的方程式注入了火焰。”
这种观点鼓励我们关注那些基础的体验层面，而不是仅仅聚焦于理性思维。它可以“将我们带回到一个基本现实：我们是活着的、不断进化的、努力求生的生物。”这最终“将我们重新描绘回自然之中”。
这个视角让我们重新审视“灵魂”的概念，它更接近于古希腊将灵魂与呼吸联系起来的“psychē”，或印度教中指向思维之下见证意识的“Ātman”。这些古老的传统都指向一个共同的直觉：
我们更多的是呼吸而非思想，更多的是血肉而非机器。
最终，对意识的研究可能会帮助我们看到自己并非与自然分离，而是深深地融入其中——我们是“活生生的生物，与其他动物的共同点，远多于我们与人工智能的统计抽象之间的共同点”。