Google DeepMind 的首席执行官戴米斯·哈萨比斯发表文章，呼吁为前沿人工智能设立一个政府监管机构，以应对其巨大潜力和风险。然而，这篇文章的发表背景却极具讽刺性：他自己的公司刚刚违背了早期“不开发军事武器”的承诺，与美国国防部签署了几乎无限制的合作协议，导致内部安全研究员辞职抗议。这一系列事件揭示了人工智能行业在公开呼吁监管与私下商业决策之间的巨大鸿沟，以及企业自我约束承诺在现实利益面前的脆弱性。
新时代的黎明与一个提议
戴米斯·哈萨比斯认为，我们正处于一个堪比发现电或火的变革时代，人工智能（AGI）的潜力将以前所未有的规模和速度重塑社会。
我们基本上找到了一种让沙子思考的方法。这简直是奇迹。这项技术的影响规模将是空前的，可能比工业革命大十倍，速度也快十倍。
为了负责任地引导这一技术，他提出了一个核心建议：
- 成立一个前沿人工智能标准机构：在美国政府内部设立一个类似金融业监管局（FINRA）的组织。
- 监管“前沿实验室”：任何开发出达到特定技术基准的“前沿模型”的公司都将受到监管。
- 进行部署前后的评估：在模型发布前后定期进行评估，以解决潜在的漏洞和风险。
- 保留减速或暂停的选项：如果情况需要，该机构有权协调所有前沿实验室，减缓甚至暂停开发。
这个提议得到了部分同行的认可，他们认为，前沿实验室的领导者们独立地就技术加速发出警告，本身就是一个值得注意的信号。
未言明的风险
尽管哈萨比斯谈到了巨大的变革，但他刻意回避了具体的下行风险是什么。当他提到“专家们意见不一”时，他模糊了分歧的真正焦点。
内特·苏亚雷斯 (MIRI): 我很高兴戴米斯承认这是一个“人类历史的关键时刻”。但我很失望，他提出的解决方案是一个“标准机构”，用来评估模型是否危险，却没有计划说明一旦模型被发现危险后该怎么办。他提到的“专家分歧”，实际上是关于发生 全面灾难的可能性是 5% 还是 ≥50% 的分歧。
这种表述具有很强的策略性。对于不了解背景的人来说，很容易以为他所说的“安全”主要是指对就业市场的影响，但实际上，他和其他内部人士真正担心的是 人类生存级别的风险。
一个好的开始，但远远不够
许多评论者认为，哈萨比斯的提议虽然比什么都不做要好，但本身远远不够，存在明显漏洞。
- 只针对公开发布的模型：该提议似乎只关注公司计划发布的模型，而忽略了那些仅在内部署以开发更强能力的模型。这正是许多风险的来源。
- 自愿性质和执行力不足：提议的自愿性质和模糊的执行机制，使其很难真正执行“减速”或“暂停”等严厉措施。
- 监管俘获的风险：类似 FINRA 的行业自律组织很容易被其监管的大公司所控制，最终成为行业的保护伞而非真正的监管者。
康纳·莱希 (Connor Leahy): 应对超级智能威胁的正确方法不是一个“自我监管组织”。我们需要禁止开发超级智能，而不是给予行业监管权。
批评者认为，哈萨比斯言语中透露出的紧迫性和危险性，与他提出的温和方案并不匹配。
DeepMind 对国防部的屈服
在哈萨比斯呼吁监管的同时，他的公司却发生了另一件截然相反的事情。安全研究员亚历克斯·特纳（Alex Turner）因 Google DeepMind 违背承诺而辞职。Google 与美国国防部签署了一份允许“所有合法用途”的合同，这实际上为致命性自主武器（杀手机器人）和大规模监视打开了大门。
这直接违背了 DeepMind 在 2014 年被谷歌收购时的一个核心条件，即其技术不会用于军事目的。
DeepMind 领导层的失信
哈萨比斯坚称 DeepMind 的原则没有改变，但这显然与事实不符。内部员工指出，DeepMind 的道德治理记录早已名存实亡：
- 2014 年: 承诺设立独立的道德委员会。
- 2015 年: 委员会开了一次非正式会议后，便名存实亡。
- 2018 年: 谷歌人工智能原则明确排除武器和监视应用。
- 2025 年: 上述排除条款被悄悄移除。
- 2026 年: 与五角大楼签约。
亚历克斯·特纳曾为阻止这一合作进行了最后的努力，包括组织超过 250 名员工签署请愿书，并直接联系哈萨比斯本人，但最终都以失败告终。
我看到三条诚实的道路：解释，放弃承诺，或者辞职。沉默不是其中之一。
更具讽刺意味的是，包括 戴米斯·哈萨比斯 和 杰夫·迪恩 在内的多位 Google 和 DeepMind 的高层领导，都曾签署过 2018 年的《致命性自主武器承诺书》，誓言“既不参与也不支持”此类武器的开发、制造或使用。然而，当需要他们用行动来捍卫这一承诺时，它却失效了。
我们必须从中吸取教训
DeepMind 的内部治理机制和领导层的承诺都宣告失败。这一事件严重损害了公司在人才市场的信誉，尤其是在与 OpenAI 和 Anthropic 的竞争中。
哈萨比斯的公开呼吁，与他公司的实际行动形成了鲜明对比，这使得他的声明听起来更像是廉价的空谈。它暴露了一个核心问题：在巨大的商业和地缘政治压力下，科技公司的自我约束承诺是极其脆弱的。如果没有外部的、有强制力的法规，所谓的“负责任的开发”可能永远只是一个美好的愿望。