人工智能公司 Anthropic 近期的一项提议在科技界掀起波澜。其高管在博客中呼吁，全球顶尖的 AI 实验室应共同建立一个可选择的“暂停机制”，以便在必要时协调放缓或暂停前沿 AI 的研发，让社会制度和安全研究能跟上技术的飞速发展。Anthropic 披露的内部数据显示，其 AI 模型 Claude 已编写了公司超过 80% 的代码，这凸显了 AI 能力的指数级增长。然而，这一提议立刻招致了广泛的质疑。许多评论者认为，这并非单纯的安全考量，而是 Anthropic 在为其首次公开募股（IPO）铺路，试图通过呼吁监管来限制开源社区和竞争对手，从而巩固自身的市场地位。公司随后澄清，他们并非要求立即暂停，而是希望预先建立一个可执行的暂停选项。
要点
- 1提议核心：Anthropic 建议建立一个全球性的协调机制，允许在必要时暂停或放缓前沿 AI 的开发，而非立即执行。
- 2背后动机：提议的理由是 AI 发展过快，社会规范和安全研究（即“对齐”）需要时间追赶，特别是面临“递归自我改进”的潜在风险。
- 3内部证据：Anthropic 透露，其 AI 模型 Claude 已承担了公司代码库 80% 以上的编写工作，工程师效率大幅提升，证明了 AI 替代人类工作的速度。
- 4业界争议：批评者普遍质疑 Anthropic 的动机，认为这是利用“安全”话语来争取监管优势、打击开源竞争对手，并为自己的 IPO 创造有利环境。
视角
大卫·萨克斯 (前白宫AI顾问)
这位风险投资家尖锐地批评道：“换句话说，你们是希望政府把我们从……你们自己手中拯救出来。”他暗示 Anthropic 一边制造潜在风险，一边又呼吁政府介入监管，用心可疑。
路易斯·加里卡诺 (欧洲经济学家)
他认为此举旨在打击竞争者，尤其是开源模型。“对前沿模型盈利能力的关键威胁是开源。如果他们把所有人都吓个半死，那么很自然的举动就是禁止开源，只允许‘受信任的开发者’。”
米特·罗姆尼 (前美国参议员)
他表达了对 AI 安全的担忧，认为制定 AI 的保障措施是“一个紧迫的国家优先事项”，并指出 AI 在武器、生物病原体、大规模失业等方面的风险不应被忽视。