Synth Daily
Anthropic AI模型禁令风波：安全担忧还是监管失控？
近期，AI 公司 Anthropic 宣布，因收到美国政府以国家安全为由发布的出口管制命令，将暂停其最新旗舰模型 Fable 5 和 Mythos 5 的所有访问权限。该命令禁止任何外国个人或实体使用这些模型，甚至包括 Anthropic 自己的外籍员工。为了确保合规，公司选择了“一刀切”的方案，直接对所有用户关闭了服务。此举在科技界引发了剧烈震动和广泛争议。批评者认为政府的决策过程不透明且手段粗暴，而另一些人则指出，Anthropic 此前将模型过度宣传为“危险品”的营销策略，可能为此次监管埋下了伏笔。这一事件不仅凸显了 AI 安全与监管之间的紧张关系，也可能对未来前沿 AI 模型的研发、发布乃至全球科技人才的合作模式产生深远影响。
要点
- 1政府禁令：美国政府以国家安全为由，命令 Anthropic 禁止所有外国个人和实体访问其最新的 AI 模型。
- 2全面关停：由于禁令包含在美国境内的外籍人士（含公司员工），Anthropic 选择完全禁用 Fable 5 和 Mythos 5，以确保合规。
- 3争议焦点：政府的担忧源于一个潜在的“越狱”漏洞，但 Anthropic 认为该漏洞问题不大，且在其他公开模型中也存在。
- 4行业震动：该事件引发了关于 AI 出口管制、监管透明度以及对美国 AI 产业竞争力影响的激烈讨论。
视角
Chris McGuire，外交关系委员会高级研究员
有针对性的模型访问出口管制是审慎的，但毫无征兆地对单一模型实施全面管制，甚至限制外籍雇员的接触是荒谬的。这只会迫使模型下架。商务部的出口管制策略完全不连贯且具有破坏性，我们需要一个明智的策略来阻止对手获取技术，同时为美国公司创造优势，而现在的做法恰恰相反。
Peter Girnus，零日计划高级威胁研究员
Anthropic 花了数月时间将 Mythos 营销为“危险到无法发布”。如果你在每篇新闻稿中都将你的产品描述为军火，政府最终会相信你的话。他们亲手为自己写下了法律依据。这次的新问题是“视同出口”规则：在美国境内向外国人展示受控技术等同于出口。这就是为什么 Anthropic 自己的外籍员工现在被锁在他们自己构建的模型之外。
Jeremy Howard，fast.ai 联合创始人
我不同意这个决定，也不喜欢它。但……Anthropic 怎么会没预料到这一切？当你声称“这个东西太危险了，除了我们谁都不能用”时，这就是最显而易见的后果，因为几乎没人会同意“我们是独一无二的好人”这个前提。
争议焦点
此次事件的核心争议在于一个所谓的“越狱”（jailbreak）漏洞。美国政府认为，通过该漏洞可以绕过 Fable 5 的安全护栏，从而带来国家安全风险。然而，Anthropic 在回应中表达了不同看法。
我们审查了该技术的演示，发现它只是被用来识别少量先前已知的、轻微的漏洞。这些漏洞都相对简单，我们发现其他公开可用的模型也能够发现它们，而无需任何绕过技术。
这一分歧显示了开发者与监管机构在风险评估上的巨大差异。对于开发者来说，没有任何模型能做到百分之百无法被“越狱”，这是一个持续改进的过程。但对于监管者而言，任何潜在的、未公开的风险都可能成为采取激烈行动的理由。
“视同出口”规则的影响
这次禁令之所以造成如此大的影响，关键在于“视同出口”（deemed export）规则的适用。这项规则意味着，在美国境内向一名外籍人士（非美国公民或永久居民）展示或转移受控技术，在法律上被视为向该人士的母国出口该技术。这直接导致了荒谬的局面：构建了这些模型的 Anthropic 外籍员工，一夜之间失去了访问自己工作成果的权限。面对如此严格且难以界定的规定，完全关闭模型访问成为了 Anthropic 唯一能确保不违法的选择。这不仅扰乱了公司的正常运营，更对整个 AI 行业依赖全球人才的合作模式敲响了警钟。
Q&A
Q: 为什么一项“禁止海外使用”的命令，会导致 Anthropic 对所有人关闭模型？
A: 因为该命令将“出口”的定义扩大到包括在美国境内向外籍人士展示技术。这一“视同出口”规则使得 Anthropic 几乎无法在不违反规定的情况下让自己的外籍员工继续工作，也难以有效区分国内外用户。因此，完全关闭服务成了确保全面合规的最直接、最稳妥的方式。
你知道吗？
将技术视为“军火”进行出口管制的做法并非新鲜事。在 1990 年代，美国政府曾将加密技术（如 PGP）归类为军火，并限制其出口。当时的活动家们为了抗议，将 PGP 的源代码印成书本发行，因为书籍受言论自由保护，而包含同样代码的软盘则被视为武器。这段历史表明，试图用国界来限制数学和代码的传播，最终往往是徒劳的。
来源
 | 关于 Anthropic 新 AI 模型突然禁止海外使用，聪明人都在说什么 |
| Anthropic在特朗普政府禁止外国使用后撤销了对Mythos和Fable模型的访问权限 |
 | Anthropic 因美国政府安全担忧暂停推出新的 AI 工具 |
 | 美国限制使用 Anthropic AI 模型 Fable 5 和 Mythos |