OpenAI 已解散其内部的“对齐团队”，该团队专注于确保 AI 系统安全并符合人类价值观。团队成员被重新分配到公司其他岗位，前负责人则担任新的“首席未来学家”角色。这是继“超级对齐团队”后，OpenAI 解散的又一个专注于 AI 长期安全研究的团队。
核心变动：解散“对齐团队”
OpenAI 解散了其内部的“对齐团队”，该团队成立于 2024 年 9 月。
- 团队使命： 其核心任务是研究如何让 AI 系统在复杂和对抗性环境中也能持续遵循人类的意图。
- 官方目标： 确保 AI 系统“安全、可信，并始终与人类价值观保持一致”。
对于“对齐”研究的目标，OpenAI 曾解释：
我们希望这些系统能在复杂、真实的场景和对抗性条件下始终遵循人类的意图，避免灾难性行为，并保持可控、可审计，以及与人类价值观保持一致。
团队成员的去向
- 前负责人新角色： 团队前负责人 Josh Achiam 被任命为公司新的“首席未来学家”。他的新目标是研究人工智能（AI）及通用人工智能（AGI）将如何改变世界。
- 团队成员再分配： 其余团队成员已被重新分配到公司的不同部门，据称仍在从事类似的工作。
官方解释与背景
OpenAI 将此次变动归因于公司内部常规的重组。
这并非首次出现类似情况。OpenAI 在 2023 年成立的另一个团队——“超级对齐团队”，也已于 2024 年解散。该团队更侧重于研究 AI 带来的长期生存威胁。