AGI：当代最具影响力的阴谋论是如何诞生的
关于人工通用智能（AGI）的讨论，充满了近乎宗教般的狂热。它既被描绘成能解决所有人类问题的救世主，又被警告为可能导致世界末日的灾难。这种叙事更像是一个精心构建的神话或阴谋论，而非一个清晰的技术目标。它起源于少数研究者的边缘构想，后被科技巨头和亿万富翁推向主流，其模糊的定义和无法证伪的特性使其得以持续。最终，这种对 AGI 的狂热追求扭曲了技术发展的优先事项，导致了巨大的资源错配和政策偏差，而最大的受益者正是那些鼓吹这一神话的科技公司。
一个救世主或末日的故事
你是否感受到了？有人说它近在咫尺——两年、五年，甚至可能就是明年。它将治愈疾病、拯救地球，并开启一个富足的时代。
但等一下，如果这一切好得不像真的呢？因为也有人说，它会带来天启，杀死我们所有人。
无论是哪种结局，一些重大的事情似乎即将发生。我们讨论的不是宗教预言，而是人工通用智能（AGI）——一种理论上能完成人脑所能做的一切的未来技术。
对于许多人来说，AGI 不仅仅是一项技术。在硅谷这样的科技中心，它被赋予了神秘色彩。OpenAI 的联合创始人 Ilya Sutskever 据说曾在团队会议上带领大家高呼“感受 AGI！”。他自己也深陷其中，后来离开 OpenAI 创办了一家新公司，专门研究如何控制“失控的 AGI”。
“这将是划时代的、惊天动地的——会有一个‘之前’和‘之后’。”
Sutskever 的观点反映了许多 AGI 倡导者中矛盾的心态：他们毕生致力于构建一项自己也深感恐惧的技术。这种宏大甚至末日般的思维在科技界并不罕见。
AGI：当代最具影响力的阴谋论？
每个时代都有其信徒，他们坚信某些巨大的变革即将发生。对我们这个时代而言，这个变革就是 AGI。然而，与计算机和互联网不同，AGI 并不存在。
这就是为什么“感受 AGI”不同于推广下一个热门产品。这背后有更奇怪的东西在作祟。AGI 很像一个阴谋论，而且可能是我们这个时代影响最深远的一个。
将 AGI 与阴谋论相比较，可以帮助我们看清它的本质：一个技术乌托邦（或反乌托邦）的狂热梦想，它利用了人们内心深处的某些信念，因此难以动摇。
- 一个灵活的框架： 即使事情未按计划发展，信念也能持续。
- 一个更美好未来的承诺： 只有信徒揭开隐藏的真相才能实现。
- 从现实世界的恐怖中获得拯救的希望。
AGI 几乎满足了所有这些条件。质疑我们被告知的关于 AGI 的一切至关重要，因为盲目相信它并非无害。它正在塑造整个科技行业，甚至影响全球经济。
硅谷如何被 AGI “洗脑”
一个典型的阴谋论通常始于边缘。AGI 的发展轨迹也惊人地相似。
一个响亮的名号
时间回到 2007 年，当时的人工智能远没有现在这么“酷”。AI 研究员 Ben Goertzel 希望推广他关于构建类人 AI 的愿景。他的一位前同事 Shane Legg 建议使用“人工通用智能”（Artificial General Intelligence）这个词。它听起来很响亮。
不久后，Legg 与 Demis Hassabis 等人共同创立了 DeepMind。但在当时，大多数严肃的研究人员认为 AGI 是个笑话。
那么，一个边缘想法是如何成为主流的？Goertzel 认为有几个关键因素：
- AGI 会议的创立： 从 2008 年开始，这个年度会议让 AGI 的概念持续出现在学术圈，吸引了越来越多的学生。
- DeepMind 的采纳： Legg 将“AGI”一词带到了 DeepMind，使其成为第一个公开谈论 AGI 的主流公司实体，这赋予了它合法性。
- 与科技大佬的交集： Goertzel 曾与 Peter Thiel 讨论过 AGI。Thiel 后来成为 DeepMind 的早期大投资者，并与马斯克一起资助了以构建安全 AGI 为目标的 OpenAI。
“末日论者”的登场
Eliezer Yudkowsky 是另一位推动 AGI 概念的关键人物，但他认为 AGI 发展的灾难性后果概率极高。他很早就致力于预防 AI 末日场景，并影响了今天许多顶尖 AI 公司的工程师。
2014 年，牛津大学哲学家 Nick Bostrom 出版了《超级智能》一书，比尔·盖茨和埃隆·马斯克等人都读过这本书。它将 Yudkowsky 的概念以一种更易于接受的方式包装起来，赋予了 AGI “可接受性”。
2023 年，多位 AI 公司 CEO 联名签署了一份声明：“减轻 AI 带来的灭绝风险应与大流行病和核战争等其他社会规模的风险一样，成为全球优先事项。”
曾经的小众观点，如今已成为畅销书和主流话题。AGI 就像所有最强大的阴谋论一样，已经悄然渗透并占据了主流。
弥天大谎的共同点
将 AGI 视为一个神话，而非一项技术，你会发现它与阴谋论思维的更多相似之处。
1. 一个无法被证伪的、不断变化的想法
讨论 AGI 就像与一个狂热者争论一样，它没有一个公认的定义。有人说它需要能学习，有人说它需要能赚钱，还有人说它需要有身体。这种模糊性使得 你无法证明它不是真的。
2023 年，微软研究人员发表了一篇题为《人工通用智能的火花》的论文，描述了他们对 GPT-4 的体验，这在行业内引发了巨大争议。尽管许多技术专家认为大型语言模型（LLM）的底层机制无法实现真正的 AGI，但这种观点无法被证实或证伪。
“关于 AGI 即将到来且不可避免的想法，为许多脱离现实的言论开了绿灯。但我们确实没有任何证据支持它。”
当备受期待的 GPT-5 并未带来预期的飞跃时，信徒们并没有将其视为 AGI 无法实现的证据，而是简单地将他们的预测时间向后推迟。
2. 信徒掌握着“秘密”
与 AGI 信徒交谈时，感觉就像他们知道一些你不知道的秘密。真相就在那里，只要你懂得如何去看。这种“圈内人”与“圈外人”的划分是阴谋论思维的一个基本特征。
他们认为，大多数人只相信眼前所见，而无法理解即将到来的巨大变革。这让 AGI 听起来更像是一种信仰。
“认为自己正在为机器之神的诞生奠定基础，这对自负心来说是极具诱惑力的。”
这种信念赋予了信徒一种使命感，让他们觉得自己是历史进程中的关键人物。
3. AGI 是救世主（或毁灭者）
许多人相信，AGI 将通过一次“智能爆炸”突然到来，即所谓的“奇点”，彻底改变人类。这种“之前与之后”的叙事，将 AGI 塑造成一个可以提供终极解脱的“神”。
在其他改善人类社会的途径似乎都已穷尽的时代，技术信仰变得尤为诱人。
“我们相信技术。技术就是上帝。这真的很难反驳。人们不想听到反对意见。”
AGI 如何绑架整个行业
对 AGI 的幻想并非无害，它带来了非常真实的后果。
- 巨大的资源错配： OpenAI 和英伟达宣布了一项高达 1000 亿美元的合作，用于建设耗电量堪比核电站的数据中心。这些本可用于解决现实问题的资源，被投入到一个模糊不清的宏大项目中。
- 政策议程的扭曲： 政策制定者被关于“AI 将如何杀死我们”的游说所困扰，而关于 AI 在今天对人们生活产生的实际影响（如不平等）的讨论则被边缘化。
- 商业利益的驱动： “如果我们不建造它，别人也会”的论调，让所有人都被锁定在这场竞赛中。对公司和政府而言，推动 AGI 神话有其商业动机，因为他们可以宣称自己将率先到达终点。
最终的阴谋：谁是受益者？
阴谋论的一个流行特征是，背后有一群强大的幕后黑手。那么，在 AGI 的故事里，谁是操纵者？
或许，真正的操纵者正是那些最卖力推动 AGI 阴谋论的人——硅谷的巨头们。他们投入一切来构建 AGI 以获取利润。AGI 的神话首先服务于他们的利益。
一位 AI 公司高管表示，AGI 需要永远保持在“六个月到一年”的距离之外。如果太远，你招不到顶尖人才；如果太近，那还有什么意义？
通过创造一个“神”，你自己也变得像神一样。一些人认为，构建 AI 是一种夺取巨大权力的方式。他们正在努力推销一个有 AGI 的未来，并且由于他们拥有的巨大权力，他们取得了相当大的成功。
最终，AGI 的论点建立在一个前提上：智能是一种可以无限增加的商品。但事实并非如此。智能不是一个可以简单地调高音量的旋钮。将所有希望寄托于一个虚幻的技术童话，是对技术应扮演的角色，乃至对智能本身的一种扭曲。