Synth Daily

埃隆·马斯克的诉讼正将 OpenAI 的安全记录置于显微镜下

埃隆·马斯克对 OpenAI 的诉讼核心在于,该公司是否为了追求利润而背离了其“造福全人类”的创始使命。诉讼揭示了 OpenAI 内部的重大转变:从一个以研究和安全为中心的组织,演变为一个将产品和利润置于首位的实体。前员工和董事会成员的证词指出,公司安全团队被解散,安全流程被绕过,并且管理层对董事会缺乏透明度,这些都削弱了内部监督。此案最终引出了一个更广泛的议题:先进人工智能的发展可能需要更强的政府监管,而非依赖公司内部治理。

从研究到产品的重心转移

前员工和前董事会成员罗西·坎贝尔 (Rosie Campbell) 的证词描绘了 OpenAI 内部文化的变化。她指出,公司的工作重心已明显从基础研究转向了市场化产品。

  • 组织焦点变化: 坎贝尔表示,她刚加入时,公司氛围以研究为导向,大家普遍讨论 AGI 和安全问题。但随着时间推移,OpenAI 越来越像一个 以产品为中心 的组织。
  • 安全团队被解散: 她所在的 AGI 准备团队和另一个专注于安全的超级对齐团队都在同一时期被解散。

“我们需要为技术变得更强大时树立强有力的先例。我们希望有可靠的安全流程,并确保这些流程得到遵守。”

一个关键事件是,微软在印度通过其搜索引擎部署了 GPT-4 的一个版本,但该模型并未事先经过公司部署安全委员会 (DSB) 的评估。坎贝尔强调,问题不在于该模型本身的风险大小,而在于这暴露了公司未能严格遵守其既定的安全流程

失信的董事会与管理层

前董事会成员塔莎·麦考利 (Tasha McCauley) 的证词揭示了非营利董事会在监督营利部门时面临的困境,核心问题在于对首席执行官萨姆·奥尔特曼 (Sam Altman) 的信任危机。

董事会认为,奥尔特曼在多个关键问题上未能对董事会保持足够的坦诚,这削弱了董事会的监督能力。

  • 奥尔特曼向一名董事会成员谎称麦考利打算罢免另一位董事会成员。
  • 他未能提前告知董事会公开发布 ChatGPT 的决定。
  • 董事会对奥尔特曼在潜在利益冲突方面缺乏披露感到担忧。

“我们是一个非营利性董事会,我们的任务是监督我们之下的营利实体……我们对(管理层)传递给我们的信息能否让我们做出明智的决策,完全没有高度的信心。”

这一系列事件导致董事会短暂解雇了奥尔特曼。然而,在员工和微软的支持下,奥尔特曼迅速复职,而反对他的董事会成员则被迫辞职。这起事件直接证明了非营利董事会难以有效制约营利部门。

内部治理失败引发的监管呼吁

OpenAI 董事会监督失败的案例,为马斯克的诉讼提供了支持,即 OpenAI 的转型违背了创始人的初衷。更重要的是,它引发了对整个 AI 行业治理模式的深刻反思。

马斯克团队聘请的专家证人、哥伦比亚大学法学院前院长大卫·席泽 (David Schizer) 强调:

“OpenAI 强调其使命的一个关键部分是安全,他们将把安全置于利润之上。其中一部分就是认真对待安全规则……重要的是流程问题。”

麦考利认为,OpenAI 的内部治理失败恰恰说明了加强外部监管的必要性。她指出,当事关公共利益的决策最终仅取决于一位首席执行官时,这是一种非常不理想的状况。这表明,依赖公司自身的承诺和内部结构可能不足以确保先进 AI 的安全发展,更强有力的政府监管可能是必要的出路。