Synth Daily

寓言 #6:王者归来

在与美国政府协商后,人工智能模型 Fable 已恢复全球访问。然而,作为交换,其开发公司 Anthropic 不得不实施更严格的安全过滤,这虽然安抚了监管机构,却也限制了编程和调试等合法用途。这一事件暴露了美国前沿 AI 监管的临时性和随意性,并引发了关于政府干预、企业合规以及与中国模型竞争等问题的广泛争议。

风波始末

一场由亚马逊研究人员发现的代码修复功能引发的风波,导致美国政府对 Anthropic 的 AI 模型 MythosFable 实施了出口管制。

以下是事件的时间线:

  • 亚马逊研究人员发现他们可以要求 Fable “修复这段代码”。
  • 他们向白宫发出警报,引起了政府的恐慌。
  • 6月12日: 美国政府要求 Anthropic 自行下架 Fable。
  • 6月12日: Anthropic 回应称担忧是多余的。
  • 6月12日: 美国政府对 Mythos 和 Fable 实施出口管制。
  • Anthropic 与政府合作,扩展了分类器,使其在超过 99% 的情况下拒绝“修复代码”的请求。
  • 6月26日: 美国政府取消了对 Mythos 的管制。
  • 6月30日: 美国政府完全解除了对 Fable 的管制。
  • 7月1日: Fable 在全球范围内恢复访问。

Anthropic 的基本解释是,模型本身从未构成问题,是政府对一个无害功能反应过度,而这很大程度上是亚马逊的沟通失误造成的。为了平息事态,他们不得不暂时让安全措施变得“更蠢”。

我们将继续在未来几周内优化这些分类器,以减少误报,并更好地区分真正的滥用与合法请求。

更“蠢”的安全限制

为了让模型重新上线,Anthropic 不得不加强安全审查。讽刺的是,最初引发警报的请求是“修复这段代码”,而这恰恰是编程和调试的核心任务

这意味着,在短期内,一些常规的编程和调试任务可能会受到影响或被错误地拦截。这直接降低了模型在美国本土对防御性网络安全工作的有效性。

网络安全专家 Alex Stamos 指出,这一事件是 “美国的巨大乌龙球”。他认为:

  • 美国 AI 公司现在必须在网络安全相关的拒绝服务上做出更保守的权衡。
  • 这可能迫使需要构建相关产品的安全公司和初创企业转向使用中国的模型。
  • 整个事件本是不必要的,因为美国人工智能安全委员会 (CAISI) 对之前的安全措施是认可的。
  • Anthropic 在公告中暗示,是亚马逊未能恰当传达问题的严重性,才导致了整个行业的混乱。

临时的监管与混乱的信号

这起事件的核心问题在于,美国政府目前对前沿 AI 的监管仍然是高度临时化(ad hoc)的。决策由并不真正了解技术细节的官员拍脑袋决定,缺乏系统性的评估框架。

正如我一直坚持的,密切研究霍华德·卢特尼克(商务部长)的个人历史和心理,是现在你能做的最重要的事情之一。

这种不透明、不可预测的监管方式,比没有监管还要糟糕。它制造了巨大的不确定性,并可能被用于惩罚政治上的“敌人”。

同时,白宫方面的解释也显得颇为政治化,强调“美国优先”和政府与私营部门的紧密合作。商务部长的发言中提到要确保 Fable 5 与“美国政府的对齐”,这种措辞也引发了外界的猜测和担忧。

对中国 AI 竞争的错误认知

在此期间,一些媒体和政客借机渲染中国 AI 追赶的威胁,特别是围绕 GLM-5.2 模型。

那篇关于 GLM 赶上 Mythos 的《华尔街日报》文章(这是不真实的,报道本身也无法支持)是那种“每个人都会在会议上问我”的文章。它对政策风向影响巨大,即使并不完全准确。

许多专家指出,尽管 GLM-5.2 是一款优秀的模型,但它在能力上仍明显落后于 GPT-5.5 或 Opus 4.8 等美国顶尖模型。有关“中国仅需数周或数月就能赶上”的说法被认为是“明显的无稽之谈”。这种不准确的信息反而误导了政策制定者,制造了不必要的恐慌。

OpenAI 的“纳贡”提议

在这一紧张背景下,有报道称 OpenAI 提出向美国政府移交公司 5% 的股份,以换取良好的政商关系。这笔股份将注入一个所谓的“主权财富基金”,并最终向美国公民支付股息。

这一提议立即引发了激烈的批评:

  • 这是疯了。直接对他们征税就行。
  • 这看起来像是一次敲诈。 政府获取企业股权,而不是通过税收和监管来规范行业,开创了一个危险的先例。
  • 这会造成毁灭性的后果。 一旦政府成为股东,政治俘获将成为现实,对公司治理的干预将永无止境。
  • 此举无法赢得公众好感。 如果民众没有看到直接的经济利益,只会认为这是企业与政府之间的腐败交易。

许多评论者认为,正确的做法是建立公平的税收制度和清晰的行业法规,而不是让政府直接持有私营企业的股份。