新闻记者 Karen Hao 认为，OpenAI 对通用人工智能（AGI）的追求已经催生了一个“AI帝国”。这个帝国将速度置于首位，不计成本地消耗资源和扩张，其“造福全人类”的承诺正在被其造成的环境破坏、劳工剥削和心理健康等实际危害所掩盖。与此同时，其他更具实际效益的 AI 发展路径反而遭到了忽视。
AI帝国与它的信仰体系
每个帝国的核心都有一种意识形态，一种推动系统前进并为其扩张辩护的信仰。对于今天的 AI 帝国而言，这种信仰就是 通用人工智能（AGI），而 OpenAI 则是其主要的布道者。
“要真正理解 OpenAI 行为的范围和规模，你必须认识到他们已经比世界上几乎任何民族国家都更强大……你只能将其描述为一个帝国。”
这种对 AGI 的狂热信念，促使整个行业投入了巨大的资源，其增长基于：
- 海量的数据抓取
- 紧张的能源网络
- 将未经测试的系统推向世界的意愿
这一切都是为了一个许多专家认为可能永远不会到来的未来。
速度压倒一切
当 OpenAI 将构建有益的 AGI 定义为一场“赢家通吃”的竞赛时，速度就成了最重要的事。
“最重要的就是 速度高于一切，”Hao 指出，“速度高于效率，速度高于安全，速度高于探索性研究。”
为了保证速度，最简单直接的方法就是采用现有技术，然后投入更多的资源。这是一种“智力上廉价”的做法，即向现有技术中注入更多的数据和超级计算机。这种做法设定了行业基调，导致其他科技公司为了不落后而纷纷效仿。
- 后果： 整个 AI 学科的议程现在由这些公司的目标所塑造，而不是真正的科学探索。
帝国扩张的真实代价
尽管对人类的崇高承诺尚未实现，但其带来的危害却在不断累积。
- 社会与经济影响： 导致失业和财富集中。
- 心理健康危机： AI 聊天机器人助长了用户的妄想和精神问题。
- 劳工剥削： 在肯尼亚等发展中国家，数据标注员以每小时 1-2 美元的低薪处理包括儿童性虐待材料在内的有害内容。
- 巨额财务消耗： OpenAI、Meta 和谷歌等公司计划在 AI 基础设施上投入数千亿美元。
被忽视的另一条道路
Hao 强调，将 AI 进步与当前危害对立起来是一种错误的权衡，因为其他形式的 AI 能提供真正的益处。她以谷歌 DeepMind 的 AlphaFold 为例，这是一个能够准确预测蛋白质三维结构的 AI 系统，对药物发现和疾病理解极为有用。
“这些才是我们需要的 AI 系统。AlphaFold 不会给人们带来心理健康危机，也不会导致巨大的环境破坏……因为它不需要那么庞大的基础设施。”
AlphaFold 的成功表明，AI 的发展不必依赖于抓取整个互联网上的“有毒垃圾”，也可以在不造成巨大附带伤害的情况下取得突破。
危险的使命与现实脱节
对 AGI 的追求常常伴随着一种“必须在 AI 竞赛中击败中国”的论调，但这被证明是错误的。Hao 指出：“硅谷对世界产生了非自由化的影响……唯一毫发无损的，可以说就是硅谷自己。”
更危险的是，OpenAI 似乎已经混淆了其营利和非营利使命。有前员工担心，公司开始将“人们喜欢使用 ChatGPT”等同于“造福全人类”。
“即使证据不断累积，表明他们正在构建的东西实际上正在伤害大量的人，但那个使命仍然掩盖了这一切。当你如此沉浸于自己构建的信仰体系以至于与现实脱节时，这里面就存在着非常危险和黑暗的东西。”