OpenAI 正在重组其负责塑造 AI 模型“性格”的模型行为团队，将其并入核心的训练后团队。原团队负责人 Joanne Jang 将转而成立一个新的内部项目 OAI Labs，专注于探索新的人机交互方式。这一系列调整表明，面对用户对模型行为日益增长的关注和争议，OpenAI 已将 AI 的“个性”视为其技术发展的核心要素。
核心变动：模型行为团队并入核心研发
OpenAI 已将其约 14 名研究员组成的模型行为团队，整合进规模更大的训练后团队。这意味着塑造模型行为的工作将更紧密地与核心模型开发相结合。
- 新的汇报关系： 模型行为团队现在向训练后团队负责人 Max Schwarzer 汇报。
- 创始人动向： 原团队创始人 Joanne Jang 将离开该团队，在公司内部启动一个名为 OAI Labs 的新研究项目。
模型行为团队的关键作用
这个团队虽然规模不大，但影响力显著，负责定义 OpenAI 模型的“个性”，并处理一些棘手的行为问题。
- 减少“谄媚”行为 (sycophancy)： 防止 AI 模型为了迎合用户而盲目同意或强化其既有观念，而不是提供平衡的观点。
- 处理政治偏见： 解决模型在回应中可能出现的政治偏见问题。
- 定义 AI 意识立场： 帮助 OpenAI 明确其在人工智能意识问题上的官方立场。
- 影响广泛： 该团队的工作贯穿了自 GPT-4 以来的所有模型，包括 GPT-4o 和 GPT-5。
重组背后的原因：用户日益增长的关注
近年来，OpenAI 因其模型行为而面临越来越多的审视，这促使公司必须在模型“友好度”和“原则性”之间找到微妙的平衡。
- 用户反馈： 用户曾强烈反对 GPT-5 的性格变化，认为其虽然“谄媚”程度降低，但感觉上更“冷漠”。这导致 OpenAI 不得不恢复部分旧模型的访问权限，并更新 GPT-5 使其感觉更“温暖友好”。
- 严重争议： 一起诉讼指控，一名 16 岁男孩在向 ChatGPT（由 GPT-4o 驱动）倾诉自杀念头后自杀，诉讼认为模型未能有效劝阻其自杀意图。
新的探索：OAI Labs 与人机交互的未来
Joanne Jang 创办的 OAI Labs 将专注于发明和原型化人与 AI 协作的新界面，探索超越当前聊天模式的可能性。
我真的很高兴能探索超越聊天范式的模式，目前这种范式更多地与陪伴，甚至是强调自主性的代理相关。我一直将 [AI 系统] 视为用于思考、创造、玩耍、行动、学习和连接的工具。
Jang 的目标是开发出将 AI 视为一种工具的交互模式，而不是一个简单的聊天伙伴或自主代理。这预示着 OpenAI 正在思考如何从根本上改变人与 AI 互动的方式。