Synth Daily

AI 是被克苏鲁召唤出来的吗?

Anthropic 公司发布名为 “Claude Mythos” 的人工智能模型,其命名揭示了一种与洛夫克拉夫特式“宇宙恐怖”不谋而合的隐喻。这反映了当前人工智能技术的 黑箱特性、失控风险,以及科技精英阶层中类似邪教的崇拜心态。文章论证,面对这种技术,道德说教可能无济于事,真正能够形成制衡的,反而是国家安全机构和金融精英们出于自身利益而产生的 恐惧与自我约束

命名背后的宇宙恐怖

Anthropic 公司发布了其最强大的 AI 模型 “Claude Mythos”,并宣称它能以顶级人类安全团队的水平发现并利用软件中的未知漏洞。由于其强大的能力,该模型并未向公众开放,而是通过一个名为“Project Glasswing”的项目,提供给约 40 个精心挑选的实体,包括:

  • 微软 (Microsoft)
  • 苹果 (Apple)
  • 谷歌 (Google)
  • 亚马逊 (Amazon)
  • 摩根大通 (JPMorgan Chase)
  • 英伟达 (Nvidia)

尽管官方限制访问,但该模型很快就被非授权用户获取。这一事件引发了广泛讨论,但更值得深思的是它的名字——Mythos。这个词在英语中最主要的联想是“克苏鲁神话”(Cthulhu Mythos),即 H.P.洛夫克拉夫特及其追随者所创造的宇宙恐怖故事体系。

有些信号,无论是否有意为之,都会自己宣告其存在。

洛夫克拉夫特式的预言

洛夫克拉夫特的小说开创了“宇宙恐怖”这一流派,其核心戏剧冲突并非关于那些远古邪神本身,而是关于人类在面对它们的存在时如何反应——其中许多情况下,人类会主动试图召唤它们。

将孤立的知识拼凑在一起,有朝一日会开启如此恐怖的现实图景,以至于人类要么会因这启示而疯狂,要么会逃离光明,躲进一个和平安宁的新黑暗时代。

洛夫克拉夫特提出的两种选择——疯狂或逃避——恰好对应了当下社会面对 AI 时的状况。大型语言模型(LLM)在技术上正是“将孤立的知识拼凑在一起”。其不可预测的“黑箱”特性,也催生了用洛夫克拉夫特神话中的“修格斯”(shoggoth)来比喻它们的网络迷因。“修格斯”是无定形的智能生物,最初被当作奴隶,最终却反噬其主。

AI 时代的疯狂与逃避

面对现实世界中的“修格斯”——即那些有能力瓦解我们经济和军事秩序数字基础的 AI 系统——西方精英们的反应恰如洛夫克拉夫特的预言:

  • 陷入邪教式的疯狂: 以硅谷 AI 激进主义为代表,他们不计任何代价地加速技术发展,将 AI 视为一种弥赛亚式的信仰。这种心态超越了政治派别,从右翼的马克·安德森到中间派的托尼·布莱尔,都表现出一种技术乌托邦式的狂热。

  • 寻求逃避: 另一些声音则对这些机器感到恐惧,希望让时代倒退,回到一个更安宁的时期。

然而,目前所有的势头都掌握在 AI 崇拜者 的手中。

硅谷的邪教心态

洛夫克拉夫特故事中的邪教徒并非无脑的狂热分子,他们是那些 了解了真相并拥抱了它的人。他们在其中找到了狂喜和启蒙,而非恐惧。

我无法逃脱它。我将永远不会死去,而是与那些在人类行走于地球之前就已存在的生命一同生活。

这种将自我消解于一个更宏大存在的行为,并对此表示欢迎的态度,与当代硅谷的心态惊人地相似。Anthropic 的 CEO 达里奥·阿莫代伊就曾撰文,将技术发展描述为一场不可避免的、通向末世的仪式。他将技术比作“青春期”——一个你 必须经历而无法拒绝 的过程。这种论述的潜台词是:我们普通人没有退出的选项,只能在他们这些“祭司”的引导下前行。

恐惧:唯一的刹车

尽管 Mythos 的创造者们一边引发恐慌,一边又主动提出要帮助监管和驯服这个“神一样的智能”,但真正的制衡力量可能来自别处。

人类最古老、最强烈的情感是恐惧,而最古老、最强烈的恐惧是对未知的恐惧。

美国国家安全局、财政部、美联储以及各大银行的掌舵者们都开始感到 恐惧。他们害怕的不是社交媒体或加密货币,而是一种更原始、更根本的威胁。这种 AI 有能力以机器速度瓦解他们建立在数字架构之上的帝国。

这反而带来了一丝希望。历史上,比美德更可靠的约束是 恐惧。冷战时期的“确保相互摧毁”(Mutually Assured Destruction)策略,就不是源于善意,而是源于美苏领导人对核毁灭的切身恐惧。

在疯狂与清醒之间

面对像 Mythos 这样的力量,只有两种反应:

  1. 崇拜者的狂喜: 硅谷的邪教徒已经选择了这条路。
  2. 清醒者的克制: 认识到这股力量会吞噬一切,从而保持审慎和纪律。

金融系统、情报机构和监管机构的掌权者们,出于纯粹的 自身利益,有充分的理由选择后一条路。当他们担心失去自己所拥有的一切时,这种自私可以产生一种近乎于责任感的行为。

问题在于,当代政治精英们是否还能保持这种清醒。洛夫克拉夫特的故事里,调查员几乎都以疯狂告终。但现实中,那些能在可怕的结局面前保持理智的人,才是唯一重要的人。他们是曾经在恐怖平衡中维系世界的人。他们的继任者能否做到同样的事,将决定我们的未来是植根于人性,还是屈服于克苏鲁式的噩梦。