美国政府以国家安全为由，突然对 Anthropic 公司的人工智能模型 Fable 5 和 Mythos 5 实施出口管制，禁止所有非美国公民使用，迫使模型暂停服务。Anthropic 认为政府的决定基于对“越狱”问题的技术误解，反应过度且程序不当。这一事件不仅凸显了政府与 AI 公司在安全标准上的冲突，还可能损害美国的 AI 竞争力和国际信任，引发了关于监管方式、人才流失和全球 AI 竞赛的广泛讨论。
政府的突然行动
美国商务部将 Fable 5 和 Mythos 5 列为出口管制对象，这意味着 禁止所有“外国公民”访问，即便是身在美国境内的 Anthropic 员工也不例外。由于无法即时验证用户国籍，Anthropic 不得不全面关停这两个模型的服务。
- 官方理由： 政府声称此举是基于国家安全担忧，认为该模型存在可被“越狱”（绕过安全防护）的风险。
- Anthropic 的回应： 公司表示，所谓的“越狱”漏洞是已知的、微小的，并且其他公开模型也能发现这些漏洞。他们认为政府的行动缺乏技术理解和正当程序。
我们认为政府应该有能力阻止不安全的部署，但这需要一个透明、公平、清晰且基于技术事实的法定程序。这次的行动没有遵守这些原则。
对“越狱”的不同理解
冲突的核心在于双方对“越狱”风险的评估存在巨大分歧。
- Anthropic 的立场： 公司采取 “深度防御” 策略。他们承认完美的防护是不可能的，因此目标是让“越狱”变得困难且代价高昂，同时通过监控快速发现和阻止攻击。他们认为目前发现的漏洞并不严重，没有带来额外的风险。
- 政府的担忧： 据推测，某位政府高官可能在不了解背景的情况下，被演示了一个“越狱”案例，并做出了过度反应。
如果这个标准被应用于整个行业，我们相信它将基本上停止所有前沿模型供应商的所有新模型部署。
一种可能的解释：“官方”说法
David Sacks 提出了一种被认为是接近官方的解释，将事件归结为一次具体的沟通失败：
- 一个受信任的合作伙伴（据推测是亚马逊）发现了一个“越狱”方法。
- 该合作伙伴和白宫认为问题很严重，但 Anthropic 认为不严重。
- 政府要求 Anthropic 修复漏洞或下架模型，但遭到拒绝。
- 作为回应，政府发布了出口管制令，并希望 Anthropic 修复问题后能尽快解除管制。
这个解释的关键在于 “修复问题” 的具体含义。
- 如果是修复特定漏洞： Anthropic 应该可以很快完成，模型也能恢复访问。
- 如果是要求“永不出现同类漏洞”： 这是一个技术上无法实现的要求，意味着僵局将持续。
这就像你抱怨房子太冷，结果有人把你的房子烧了，你却无权抱怨一样。
广泛的批评与深远影响
这一事件引发了科技界和评论人士的广泛批评，他们认为这种处理方式既粗暴又愚蠢，并可能带来一系列负面后果。
- 损害美国 AI 竞争力： 限制非美国公民科学家（包括许多在 OpenAI、Google 和 Anthropic 工作的顶尖人才）使用前沿模型，可能导致人才流失，减缓美国自身的研发速度。
我们是不是在重演 1955 年驱逐钱学森，结果帮对手建立了火箭项目的历史？
破坏国际信任： 此举向美国的盟友发出了一个强烈信号：美国不会分享其 AI 优势。这可能促使其他国家，如欧盟，加速发展自己的 AI 技术以求自保。
监管的随意性： 许多人担心，政府在缺乏技术理解和正当程序的情况下，可以任意干预 AI 发展，这为行业带来了巨大的不确定性。
看到政府以应有的严肃性和紧迫性对待人工智能，这令人振奋。这种迅速的行动或许有机会拯救我们。但……我非常不信任这个政府能处理好这件事。
未来的不确定性
目前情况尚不明朗。政府可能会在认识到后果后悄悄撤销决定，也可能固执己见。Anthropic 可能会为了尽快恢复服务而选择妥协，修复那个他们认为无关紧要的漏洞。
我无法判断这件事最终是好是坏。阻止 AI 升级的国际条约肯定是好事！但除此之外的事情呢？很复杂！
无论如何，这次事件清楚地表明，随着 AI 技术变得越来越强大，政府与开发公司之间的紧张关系正在加剧。如何建立一个既能保障安全又能促进创新的监管框架，已成为一个亟待解决的难题。