美国政府近期对人工智能公司 Anthropic 的两款前沿模型 Fable 5 与 Mythos 5 实施了出口管制，原因是担心其存在安全漏洞，可能被用于网络攻击或技术外泄。据报道，这一举动源于其主要投资者之一——亚马逊公司首席执行官安迪·贾西向美国政府提出的安全警告。作为回应，Anthropic 已禁用了这两款模型，但同时辩称，类似的安全问题在其他公开发布的人工智能模型中也普遍存在。目前，美国政府的监管重点仍集中在 Anthropic，尚不打算将此类限制扩大到 OpenAI 等其他竞争对手。这一事件凸显了随着人工智能技术快速发展，政府在鼓励创新与保障国家安全之间寻求平衡所面临的挑战，对前沿人工智能系统的审查正变得日益严格。
要点
- 1精准管制：美国政府的出口管制措施目前仅针对 Anthropic 的特定模型，原因是其被认为存在严重安全漏洞，暂不计划扩大至 OpenAI 等其他公司。
- 2亚马逊的角色：据报道，亚马逊 CEO 安迪·贾西向美国政府发出了安全警告，称其研究人员发现 Anthropic 的模型可被用于网络攻击，这直接促使了政府的介入。
- 3核心争议：Anthropic 承认了模型的存在问题，但认为这在行业内是普遍现象，而政府与亚马逊则认为其构成了特定且急迫的风险。
- 4模型下线：为遵守政府禁止外国公民访问的命令，Anthropic 已主动禁用了 Fable 5 和 Mythos 5 这两款用于复杂推理的模型。
视角
美国政府
核心担忧是 Anthropic 的前沿模型可能被用于发现“敏感系统中的漏洞”，以及先进的人工智能技术可能扩散给外国对手，对国家安全构成威胁。
Anthropic 公司
认为政府所担心的安全漏洞并非其独有，在包括 OpenAI 等竞争对手发布的公开模型中也存在类似问题，并表示已披露的漏洞要么是无害的，要么是次要的。
前白宫官员大卫·萨克斯
他在社交媒体上透露，政府曾要求 Anthropic 修复漏洞或下线模型，但其首席执行官达里奥·阿莫迪拒绝了这一要求。
这次事件的核心，是关于如何界定和处理前沿AI模型潜在风险的激烈博弈。它不仅仅是技术层面的讨论，更牵涉到商业利益和国家安全战略的复杂交织。