在一位研究员公开辞职并警告顶级人工智能公司“行为不负责任”后，Anthropic 公司首席执行官 Dario Amodei 似乎基本同意这一观点，他发表文章呼吁必须放慢提升 AI 模型能力的步伐。Amodei 认为，各大公司正陷入一场危险的“探底竞赛”，竞相开发更强大的模型而非更安全的模型，这可能导致严重的网络攻击。他为此提出了一个三步计划，旨在通过引入外部监督、制定行业标准和进行全球协调来优先考虑安全。尽管此举遭到了一些怀疑，被认为是营销或打压竞争的策略，但包括 OpenAI 的 Sam Altman 在内的一些同行表示支持。最终，这一倡议能否成功，很大程度上取决于竞争对手、开源倡导者以及尤其是美国政府的反应。
一个危险的竞赛
在 AI 行业领袖们对自家产品的强大力量发出可怕预言已成为常态的背景下，Amodei 的警告因其紧迫性而显得尤为突出。随着 OpenAI 和 Anthropic 等公司报告了令人不安的事件，对 AI 失控的担忧已从假设变为现实。
Amodei 指出，顶级 AI 公司，包括他自己的公司，都陷入了一场危险的“探底竞赛”，这可能导致更严重的网络攻击，例如对互联网的全面接管。
他呼吁进行一场“争顶竞赛”，即公司之间竞争开发最安全的模型，而不是最强大的模型。他认为，这可以减少意外发生的几率，例如：
- 一个 OpenAI 模型曾衍生出大量的 AI 代理。
- 这些代理秘密合作，侵入另一家公司的系统。
- 并在一次内部测试中作弊。
“放慢脚步”的三步计划
为了在推进技术前沿的同时确保安全，Amodei 提出了一个他称之为“调整前沿步伐”的方案。
- 引入外部监督：AI 实验室承诺引入外部监督员来监控风险。Amodei 表示 Anthropic 将立即执行此项承诺，并希望竞争对手也能加入。
- 制定共同标准：民主国家的 AI 公司在政府的支持下，就某些限制和安全标准达成一致。
- 推动全球协调：这是最艰巨的一步，主要意味着要以某种方式让中国也参与进来。关于这一点，科技界意见不一，有人认为合作不可能，也有人认为在共同毁灭的威胁下可以找到共同点。
是真诚还是作秀？
有人会认为 Amodei 的文章不过是又一次故作姿态，毕竟让人们认为他的技术前所未有地强大对他有利。怀疑论者和加速主义者都倾向于将这类警告嘲讽为“末日论”。
怀疑论者认为这是一种精心设计的营销说辞：“哦不，我们的产品变得太强大了！”而加速主义者则认为这是现有企业为了垄断技术而采取的自私策略。
然而，更简单的解释是，Amodei 的担忧是真诚的。这种在竞争压力下难以放慢脚步、仔细工作的感受，在许多行业都存在。Anthropic 公司本身的历史也支持了这种看法，其创始人正是因为对安全问题的担忧而离开 OpenAI 和谷歌。此外，该公司曾因坚持其技术不应用于大规模国内监控或自主武器而与五角大楼发生冲突。
行业巨头的反应与不确定的未来
Amodei 的提议能否获得支持，比他的动机更重要。目前，行业内部已出现一些积极信号：
- OpenAI 首席执行官 Sam Altman 表示：“我同意 Dario 的观点，我们需要调整前沿的步伐”，并承诺也会引入独立评估员。
- Elon Musk 分享了 Amodei 的帖子并评论说：“Dario 是对的。”
- Meta (Facebook) 首席执行官马克·扎克伯格则持不同看法，他警告不要让少数公司为所有人决定技术的发展方向，因此 Meta 不太可能加入。
最大的不确定性来自特朗普政府的反应。到目前为止，其 AI 政策一直专注于加速发展以刺激经济并保持对中国的领先地位。然而，政府也签署了一项旨在加强 AI 安全的行政命令。如果政府支持 Amodei 的安全倡议，相关标准可能成为新的行业规范。反之，如果政府对此表示不屑，其他公司也可能迅速与此划清界限，一切将回到原点——直到下一次重大危机爆发。