人工智能公司 Anthropic 的首席执行官达里奥·阿莫迪计划访问白宫，与政府高级顾问会面。此次会面的背景错综复杂：一方面，公司与五角大楼因 AI 军事使用限制正处于法律纠纷之中；另一方面，Anthropic 发布了一款名为 Mythos 的强大 AI 模型。该模型在发现软件漏洞方面能力超群，既可用于加固网络安全，也可能被用作强大的网络攻击工具。这一“双重用途”特性不仅引起了美国政府内部的紧张与兴趣，也触发了国际社会对于技术权力集中和全球安全治理的深刻担忧。整个事件围绕着技术、法律、国家安全和国际关系展开，凸显了前沿 AI 技术带来的复杂挑战。
要点
- 1高层会谈与法律纠纷：Anthropic CEO 将与白宫官员会面，旨在解决公司与五角大楼之间关于 AI 军事应用限制的诉讼。尽管存在争议，美国政府仍在考虑允许联邦机构使用其技术。
- 2强大的 Mythos 模型：新发布的 Mythos 模型能以前所未有的效率发现软件中的“零日漏洞”，这使其成为一把双刃剑，既是强大的网络防御工具，也可能是危险的网络攻击武器。
- 3监管与责任之争：在伊利诺伊州，Anthropic 和 OpenAI 支持相互对立的法案，争论焦点在于 AI 开发者在造成灾难性事件时应承担多大责任，反映了行业内部对安全与豁免的根本分歧。
- 4国际社会的担忧：Anthropic 限制 Mythos 的访问权限，引发了国际社会的警惕。各国担心 AI 权力过度集中于少数美国公司，催生了发展本土技术的“AI 主权”思潮，并呼吁建立国际合作监管机制。
视角
Anthropic 公司
主张谨慎行事，希望为 AI 技术设置“护栏”，例如禁止其用于全自动武器。公司通过限制 Mythos 模型的访问权限，旨在优先确保关键系统的安全，并支持更严格的法律以加强开发者的安全责任。
美国政府
内部态度复杂。白宫一方面对 Mythos 的潜力感兴趣，并计划制定措施供联邦机构使用；另一方面，五角大楼此前曾寻求对 AI 的无限制军事使用权，导致了与 Anthropic 的法律冲突。
国际专家（以 Yoshua Bengio 为代表）
呼吁建立国际监管机构。他们警告称，不能让少数私人公司决定全球网络安全格局，这种权力集中是危险的。AI 治理必须是国际性的，需要更广泛的合作来应对跨国风险。