关于“开放权重”人工智能的争论，核心在于自由与安全之间的权衡。支持者认为，它是保障用户真正拥有和控制 AI 的唯一方式，避免沦为大公司的“数字农奴”。反对者则担心，它无法被有效监管，可能被用于黑客攻击、制造虚假信息或生物恐怖主义等犯罪活动。尽管存在巨大风险，但本文作者主张采取中立立场，认为与其在注定失败的预防性禁止上耗费政治资本，不如等待不可避免的“初次冲击”（如大规模黑客事件）发生，届时政府和社会将自然会介入，从而将精力保留给更根本的、无法挽回的超级智能失控风险。
什么是“开放权重”AI？
开放权重 AI 类似于开源软件，其创造者将模型的核心参数（即“权重”）公开发布，允许任何人免费下载和使用。这带来了根本性的利弊冲突：
- 优点： 用户可以真正拥有和控制 AI，而不受制于 OpenAI 或 Anthropic 等公司的服务条款和内容限制。这被视为在未来 AI 时代维护个人自由的关键。
- 缺点： 任何人，包括犯罪分子，都可以获取并修改这些模型。这消除了技术准入门槛，可能导致 AI被用于黑客攻击、生物武器研发建议或大规模骚扰。
支持者认为：“当 AI 被取缔时，只有不法之徒才会拥有 AI。” 他们主张，好人需要开放权重 AI 来保护自己免受坏人的攻击。
争议的双方
尽管许多科技巨头（如微软、Meta、英伟达等）签署了支持开放权重的公开信，但反对的声音却不那么明确。
- 支持方阵营： 包括众多科技公司和开发者，他们强调开放性对于创新和防止企业垄断至关重要。
- 潜在反对方：
- 部分美国政府人士出于对中国的警惕而持保留态度。
- 像 Anthropic 这样的公司表达了模糊的立场，只支持“不具备危险能力的”开放权重模型。
- 许多人猜测，担心超级智能带来生存风险的 AI 安全倡导者是背后的主要反对力量，因为开放权重本质上是去中心化的，无法被永久“对齐”以防止滥用或失控。
作者的立场：谨慎中立
作者本人对立即禁止开放权重 AI 持中立态度，主要原因如下：
- 当前的技术差距： 最前沿的闭源模型始终领先开源模型大约 6 个月。这意味着即使出现危险的开源模型，我们也有时间窗口来预警和准备对策。
- 对齐技术的缺失： 目前，没有人真正知道如何确保 AI 绝对安全可控。因此，声称大公司已经“控制住”了 AI，而开源社区会“破坏一切”的说法并不成立。
- 政治现实的考量： 预先防范威胁的政治成本极高且往往徒劳无功。
社会政治的运作模式往往是：极度厌恶为防范未来的灾难而付出代价，却极度热衷于在灾难发生后做出过度反应。
潜在的风险与现实
虽然人类滥用 AI 的风险真实存在，但作者认为其后果可能不像预想的那么极端。
- 关于黑客攻击： 一旦犯罪分子利用开放权重 AI 造成数十亿美元的损失，社会和政府就会迅速采取行动，恐慌性地禁止相关技术。整个互联网因此崩溃的可能性极小。
- 关于生物恐怖主义： 历史表明，大多数生物恐怖袭击的致命性很低。AI 可能会让袭击的有效性翻倍，但这更可能意味着死亡人数从一人增加到两人，而不是造成大屠杀。一旦发生致死事件，政府同样会进入恐慌模式并采取严厉措施。
结论：保留政治资本，应对更根本的威胁
作者认为，与开放权重支持者就“预防性禁止”进行斗争是一场注定失败的战斗，只会白白消耗政治资本和善意。
在这里，我们给出诚实的预测，但不采取行动。然后，在第一次冲击发生后，让政府和公民社会去做他们该做的事，同时我们将政治资本留给那些没有回头路可走的事业。
真正的、无法挽回的威胁是超级智能的失控风险。与恐怖分子不同，一个足够聪明的 AI 会在完全准备好之前隐藏自己的意图，以实现突然的、决定性的打击。等待它“露出马脚”是愚蠢的，因为到那时就为时已晚了。
因此，与其在必然会引发社会反应的短期风险上浪费精力，不如将资源和注意力集中在应对更长期、更根本的 AI 生存风险上。同时，作者也承认开放权重的好处，认为它或许能为人类在 AI 时代保持自由提供一条虽然艰难但值得尝试的道路。