Synth Daily

特朗普刚刚找到了监管人工智能的最糟方式

美国政府以网络安全为由,要求 Anthropic 公司下架其最新的人工智能模型 Fable,这一决定引发了广泛质疑。批评者认为,此举可能并非出于真正的安全考量,而是基于技术误解、政治偏见和缺乏透明的监管程序。白宫在没有统一标准的情况下,利用行政权力直接封禁特定模型,不仅破坏了公平竞争,也可能促使外国用户因担心服务被随意中断而转向非美国的AI产品,最终建立起一种由总统个人好恶而非法律和规则主导的、最糟糕的监管模式。

发生了什么?

Anthropic 公司发布了其最新的人工智能模型,它在内部被称为“Mythos”,公开发布的受限版本则叫“Fable”。该模型在性能上远超前辈,表现出众。

  • 预防措施: 在公开发布前,Anthropic 已经为 Fable 设置了严格的安全护栏,例如拒绝回答任何关于网络安全和生物学的敏感问题,以防止其被用于黑客攻击或生物恐怖主义。
  • 政府干预: 然而,白宫在得知 Fable 可能存在一个安全漏洞后,认为这些措施不足。政府迅速对该模型实施了出口管制,禁止 Anthropic 向任何外国公民提供 Fable 服务。
  • 结果: 这一禁令实际上迫使 Anthropic 将 Fable 完全下线,因为它无法在技术上区分用户的国籍。

讽刺的是,Anthropic 的首席执行官一直呼吁对强大的人工智能进行监管,但他想要的显然不是这种由行政命令驱动的随意封禁。

禁令背后存在三大问题

尽管政府声称此举是为了国家安全,但仔细审视后,其行为的合理性备受质疑。该决定至少存在三个主要问题。

1. 可能基于技术误解

所有现存的人工智能模型都没有一个是 100% 不可破解的。亚马逊公司(Anthropic的投资者之一)向白宫报告了一个所谓的“越狱”漏洞,但有网络安全专家指出,这种漏洞并非 Fable 独有。

根据网络安全专家 Katie Moussouris 的说法,亚马逊发现的问题并不新颖,许多前沿模型(包括 OpenAI 的 GPT-5.5)在特定提示下也会提供类似的功能。

如果这个漏洞是行业普遍存在的现象,那么政府选择性地只针对 Fable 就显得既武断又不公平。

2. 强烈的政治动机

有充分理由相信,白宫的强硬手段与 Anthropic 此前拒绝迎合政府有关。

  • 过往冲突: 今年早些时候,Anthropic 拒绝批准其模型用于大规模监视和全自动武器系统,与特朗普政府的国防部发生了冲突。作为回应,五角大楼将 Anthropic 标记为“供应链风险”。
  • 偏袒竞争对手: 与此同时,政府与 Anthropic 的主要竞争对手——OpenAI 和埃隆·马斯克的 xAI——关系密切。
  • “意识形态差异”: 一位熟悉政府想法的消息人士向媒体透露,Anthropic 的困境部分源于其未能与白宫“有效沟通”或“理解意识形态差异”。

如果争议真的只关乎一个安全漏洞,那么所谓的“意识形态差异”根本不应成为考虑因素。这使得禁令看起来更像是对不顺从公司的惩罚。

3. 监管程序严重缺失

无论 Fable 的漏洞有多严重,此次封禁行动的程序都存在致命缺陷。

美国政府既没有制定任何客观且有约束力的 AI 模型安全标准,也没有让国会批准任何此类要求。

在单方面将 Fable 撤出市场之前,政府并未像通常的监管机构那样,进行任何彻底或透明的成本效益分析。这种做法的潜在成本不容忽视:它会让外国企业认识到,美国总统可以凭一时兴起就切断他们使用的 AI 服务,从而激励他们寻找非美国的替代品

寻找更好的监管方式

人工智能模型的力量日益增强,风险也随之而来。建立一个有规则、有程序的监管体系来降低风险是必要的。

然而,国会建立一个公正、有章可循的监管程序,与行政部门随意封禁人工智能系统,完全是两码事。

如果科技公司的首席执行官不应拥有发布哪些模型的完全酌情权,那么总统也绝不能拥有阻止哪些模型的无限权力。

目前的情况表明,我们正在用一种任人唯亲的裙带关系,来替代原本应该严谨对待的AI安全问题。这恰恰是监管人工智能最糟糕的方式。