人工智能公司 Anthropic 成立于2021年，其初衷是优先考虑AI安全。然而，随着公司估值和收入的飙升，其首席执行官达里奥·阿莫代坦言，在“惊人的商业压力”下维持创始价值观变得异常困难。这种矛盾并非个例，而是整个AI行业的普遍现象。近年来，一股由顶尖研究人员发起的“辞职信潮”揭示了行业内部的深刻忧虑：为了追求产品迭代速度和商业回报，安全和伦理考量正被边缘化。从OpenAI到Anthropic，安全专家们纷纷通过公开信表达担忧，认为公司在构建可能改变人类命运的技术时，其安全文化和流程已经“退居二线”。这些内部冲突和公开辩论，暴露了在通往通用人工智能的道路上，科技巨头在商业利益与人类福祉之间面临的艰难平衡。
要点
- 1商业与原则的冲突：即使是像 Anthropic 这样以安全为使命的公司，也难以在巨大的商业压力下完全坚守其核心价值观。
- 2辞职潮的警示：多位来自 OpenAI、Anthropic 等顶尖公司的安全研究员公开辞职，他们的辞职信成为观察行业内部伦理困境的重要窗口。
- 3价值观的辩论：关于“谁有资格塑造 AI”的争论已经公开化，例如埃隆·马斯克对 Anthropic 哲学家资格提出的质疑。
这些事件并非孤立存在，它们共同描绘了一幅AI行业内部充满张力的图景。来自不同角色的声音，揭示了这场技术竞赛背后的多重困境。
视角
达里奥·阿莫代（Anthropic CEO）
“我们在经济上生存下去，同时又要保持我们的价值观，这种压力简直是难以置信的。我们正努力保持收入的10倍增长曲线。”
简·莱克（前OpenAI安全负责人）
在离开OpenAI时他指出，公司的“安全文化和流程已经为闪亮的产品让路了”，并认为 OpenAI 必须成为一个“安全第一的AGI公司”。
阿曼达·阿斯克尔（Anthropic 哲学家）
在回应“没有孩子就没有未来利益”的说法时，她表示：“我仍然觉得我对未来有强烈的个人利害关系，因为我非常关心人们的茁壮成长，即使他们与我无关。”