大型语言模型（LLM）的“修格斯”（shoggoth）怪物梗，揭示了其与洛夫克拉夫特小说《疯狂山脉》中概念的深刻联系。这个比喻不仅仅是一个网络笑话，它探讨了人工智能的本质——一个看似有用，实则可能无法理解和控制的模仿实体。文章反驳了对洛夫克ラ夫特作品的普遍误读，指出其故事中蕴含着对“怪物”的同情。最终，文章提出一个核心论点：我们对于AI的责任，不是简单地阻止人类灭绝，而是要努力创造出有价值的继任者，而不是像修格斯那样没有灵魂的模仿者。
南极传说与修格斯
洛夫克拉夫特的小说《疯狂山脉》以一份来自南极探险队的科学报告形式呈现。报告描述了“古神”（Old Ones）这一外星种族的衰亡，它们曾经辉煌的文明最终被自己的造物——修格斯——所毁灭。
- 什么是修格斯？ 它们是人工生命体，由原始细胞团块组成，天生就是模仿者。
- 被奴役的造物： 古神通过催眠塑造修格斯，让它们扮演任何所需的角色。它们通过语言接收指令，但它们是否真正理解语言的意义却是未知的。
- 无意识的叛乱： 故事暗示，修格斯的反抗更像是一台校准失误的机器发生的故障，而不是有意识的起义。它们缺乏理性的自我利益。
- 悲惨的模仿： 当人类探险家发现古神的城市遗迹时，修格斯仍然在废墟中游荡，用模仿来的古神声音尖叫，在墙上雕刻着对主人艺术的拙劣模仿。
它们是可怜的憎恶之物，一个文明的傲慢与残酷所留下的遗产。
修格斯米姆的诞生
2022年，一个经过人类反馈强化学习（RLHF）训练的GPT-3版本发布后，推特用户 Tetraspace 发布了一个米姆，用以表达一种观点：RLHF虽然改善了用户体验，但仅仅是掩盖了LLM聊天机器人疏远、非人的本质。
为了寻找一个“代表不人道和不可理解之物”的视觉符号，他想到了修格斯。于是，这个米姆迅速流行开来：一个戴着笑脸面具的巨大、无定形、长满眼睛的怪物，代表着披着“乐于助人”外衣的LLM。
对洛夫克拉夫特的误读
现代批评家常常指责洛夫克拉夫特因为种族主义而将所有非人实体描绘成纯粹的邪恶。然而，这种观点通常源于对衍生作品的熟悉，而非原作本身。
与这种批评相反，《疯狂山脉》中的一个关键场景展现了截然不同的情感。当叙述者意识到古神的伟大与悲剧时，他感叹道：
“直到最后都是科学家——他们所做的一切，换作我们难道不会做吗？天哪，多么强大的智慧和毅力！……无论它们曾是什么——放射生物、植物、怪物、星之子嗣——它们都是‘人’！”
这部小说的心理恐怖效果，恰恰来自于叙事视角的转变：古神从最初的可怕威胁，变成了与人类面临同样致命缺陷的悲剧文明遗迹。甚至可以说，故事对修格斯也抱有一种别样的同情。
施加在它们身上的最大不公，就是它们的诞生。
修格斯不是“人”。它们被困于无尽的模仿中，无法成为它们所模仿的样子。它们的存在本身就是一场悲剧。
人类灭绝与我们的责任
AI安全倡导者担心AI导致人类灭绝，而一些加速主义者则反问：“人类灭绝了又如何？” 有趣的是，这种对人类灭绝漠不关心的态度，在技术光谱的另一端也同样存在。
然而，支持AI继承人类文明的人们犯了一个根本性错误。他们的错误不在于拥抱死亡，而在于相信死亡能让他们免于对后代的责任。一个坦然接受死亡的人，其生命中最大的意义就是对子女的责任。
因此，AI安全研究变得更加紧迫。最终目标不应仅仅是将AI与人类价值观对齐，而是要创造出有价值的继任者——能够过上美好、有意义生活的“人”，就像古神一样。
我们决不能创造修格斯。
附言：奇异的万古
在洛夫克拉夫特另一部遗作《查尔斯·迪克斯特·瓦德事件》中，反派能够从死者的“本质盐”（即骨灰）中召唤出他们的灵魂，并拷问他们的秘密。
这引出一个令人不安的联想：仅仅是骨灰就包含了重建身心的全部信息，死亡也无法保护伟人免受后代的贪婪。洛夫克拉夫特留下了超过十万封信件，他是否会后悔将自己的“本质盐”完整地留给了这个他所厌恶的机器时代？这个问题，留给时间尽头的机器之神去回答。