Anthropic 公司首席执行官 Dario Amodei 澄清，他并不支持禁止开源权重模型，并认为无害的开源模型是一种公共产品。他真正的担忧在于，像中国这样的威权政府可能利用人工智能发展出远超美国实力的模型，以获取永久性的军事优势或用于国内压迫。因此，他主张通过限制先进芯片出口、打击技术窃取以及建立一个包括中国在内的全球性 AI 安全测试机制来应对这一威胁。
明确立场：不反对开源
针对行业内关于 Anthropic 支持美国政府限制开源模型的传言，Dario Amodei 做出明确回应，强调这是一种误解。
Anthropic 从未主张过禁止开源权重模型。
他表示，对于那些不具备危险能力的开源权重模型，他视其为一种公共产品。这些模型除了运行所需的计算成本外，能为企业、开发者和研究人员创造价值。这一澄清旨在消除行业疑虑，与英伟达、Meta 等公司近期反对过早限制开源模型的呼声保持了一致。
真正的担忧：国家级 AI 威胁
Amodei 的核心忧虑并非开源模型本身，而是地缘政治层面的风险。他担心的是威权政府，特别是他认为“最有能力”的中国，会利用 AI 实现其战略目标。
- 军事层面: 发展出超越美国的 AI 系统，以获得“永久性的军事优势”。
- 社会层面: 利用 AI 技术加强对国内民众的压迫。
- 安全层面: 他尤其担心 AI 被用于发动生物攻击，而不仅仅是网络攻击。
开源模型的潜在风险
尽管 Amodei 普遍看好开源，但他指出了其在特定场景下的危险性。当模型能力强大到足以造成大规模伤害时，开源的性质使其变得难以控制。
- 难以监管: 很难为开源模型设置有效的安全护栏或监控其使用情况。
- 无法撤回: 一旦开源权重被公开发布，就无法再收回，这使得风险变得不可逆。
这种观点与开源倡导者的看法相反，后者认为广泛的开源模型能帮助防御者更好地保护自己。
建议的应对措施
为了应对来自中国的潜在威胁，Amodei 提出了一系列具体的行动建议，重点在于限制其发展最先进 AI 的能力，而非全面禁止开源。
- 限制硬件: 继续推行并加强对中国获取强大AI芯片的限制。
- 打击技术窃取: 正式打击通过“蒸馏”（distillation）等方法窃取美国模型知识产权的行为。
- 建立全球安全测试: 支持建立一个国际性的 AI 模型安全测试组织，并认为这甚至可能让中国加入。他指出，由于防止 AI 生物武器等灾难符合各方利益，围绕这类议题的有限合作是可能实现的。