Synth Daily

美国因国家安全担忧,禁止外国访问 Anthropic 最强 AI 模型

美国政府以国家安全为由,突然下令禁止外国公民访问人工智能公司 Anthropic 最强大的两款 AI 模型——Fable 5 和 Mythos 5。该指令指出,这些模型存在可被“越狱”的严重漏洞,可能被外国势力用于网络攻击等恶意活动。为遵守规定,Anthropic 不得不紧急下架这两款模型,导致全球所有用户无法访问。这一事件标志着美国首次将技术管制的范围从半导体芯片扩大到 AI 模型本身,引发了关于 AI 主权、技术封锁和过度监管的激烈讨论。事件背后,不仅有对具体技术漏洞的担忧,还牵扯出该公司与政府在其他问题上的分歧,以及其首席执行官长期以来对 AI 风险的公开警告。

要点

  • 1禁令核心:美国政府以国家安全为由,首次直接限制AI模型(Fable 5和Mythos 5),而非仅限制芯片。
  • 2安全漏洞:禁令的直接导火索是发现模型存在“越狱”漏洞,可能被用于网络攻击。有消息称,白宫担心中国相关组织已获取该技术。
  • 3公司回应:为遵守指令,Anthropic选择全面下架两款模型,并表示正与政府沟通以尽快恢复访问,认为这是一场“误解”。
  • 4深层背景:事件背后涉及Anthropic首席执行官长期对AI风险的警告,以及公司与美国政府在自主武器等问题上的先前分歧。

视角

五角大楼首席信息官 Kirsten Davies

“有些事情远比收入周期、点击诱饵和上市前估值更重要。美国优先,永远如此。”

AI 研究员 Gary Marcus

称特朗普政府的举动“极其戏剧化且会产生反效果”,是一种反应过度的行为。

AI 巨头 Yann LeCun

将此归咎于 Anthropic 的首席执行官,他写道:“达里奥·阿莫迪关于Mythos/Fable(以及AI)的荒谬恐惧宣传终于得到了回报。种瓜得瓜,种豆得豆。”

争议焦点

这次禁令的核心争议在于事件的起因和责任归属。一方面,接近白宫的消息人士和总统顾问大卫·萨克斯(David Sacks)声称,政府在收到关于模型可被“越狱”的警告后通知了 Anthropic,但其首席执行官达里奥·阿莫迪拒绝修复,认为风险不大。这使得政府不得不采取强制措施。

萨克斯指责道:“过去,Anthropic 总是说安全必须是重中之重。但在这次事件中,Anthropic 将消费模型的持续供应置于安全之上。”

另一方面,Anthropic 公司则坚称这是一场“误解”,并表示政府仅口头通知了一个“潜在的、狭窄的、非普遍的越狱方法”,公司不同意这足以成为全面下架的理由。此外,Anthropic 发言人否认白宫在沟通中提及中国访问其模型的问题,并强调其产品本就禁止在中国境内使用。

技术封锁与AI主权

此次事件是美国技术政策的一次重大升级,控制对象从硬件(芯片)转向了软件(AI模型本身),显示出美国日益将顶尖AI模型视为关键的国家安全资产。这一举动在全球范围内敲响了警钟,许多国家开始重新审视所谓的“AI主权”问题,即一个国家控制自身人工智能技术的能力。英国一位负责AI安全的部长就表示,禁令应该促使英国加大对本国AI产业的投资。

然而,卡内基国际和平基金会的专家安东·莱希特(Anton Leicht)指出,这种担忧可能难以在短期内解决。他表示:“只有美国在构建前沿模型,并且美国控制着训练它们所需的几乎所有芯片。其他国家现在才‘觉醒’已经太晚了。”

Q&A

Q: 美国政府为什么如此担心这两款 AI 模型?

A: Anthropic 自己宣称,其最新的 Fable 5 模型在识别软件漏洞方面能力极强。如果没有适当的防护措施,这种能力可能被恶意利用于发起大规模网络攻击。政府担心的“越狱”漏洞意味着这些防护措施可以被绕过,使模型成为潜在的国家安全威胁。

Q: 这次禁令对 Anthropic 公司有什么影响?

A: 影响是负面的。禁令发布正值 Anthropic 准备进行首次公开募股(IPO)的关键时期,而其竞争对手已成功上市。突然下架最强模型不仅影响现有客户,也可能对其市场估值和投资者信心造成沉重打击。

你知道吗?