为了让通用人工智能（AGI）惠及全人类，其治理方式必须是民主的，这需要公众对前沿人工智能的能力、风险和保障措施有充分的了解。人们需要理解 AI 的发展轨迹，以便在其中拥有发言权。因此，本文旨在揭示 OpenAI 内部如何利用自动化工具加速研究进程，同时阐明相关的安全措施与挑战。目前，通过使用AI“编码助手”，研究人员的工作效率显著提升，不仅产出更多代码、运行更多实验，还能处理更复杂的任务。尽管这加速了研究步伐，但 OpenAI 强调，必须将安全与对齐工作置于核心，并承诺在发现不可接受的安全风险时，会减缓甚至停止开发。
为了让通用人工智能（AGI）惠及全人类，我们认为它必须受到民主治理。这只有通过关于高能力AI系统的能力、风险和保障措施的知情公众辩论才能实现。
迈向自动化的人工智能研究
我们的目标是安全地构建一个自动化的AI研究员，它可以在人类监督下工作，以推动深度学习和对齐研究的进展。这使我们能够进行迭代式改进。
- 短期目标： 我们已经实现了去年秋季宣布的目标，即在今年九月前拥有一个“自动化研究实习生”。这个系统能够执行明确定义的研究任务，这些任务通常需要一名熟练研究员几天时间才能完成。
- 长期目标： 我们正朝着在 2028年3月前 创建一个全自动化的AI研究员的目标稳步前进。
我们相信，如果负责任地进行，自动化的AI研究将产生能够直接增进人类福祉的模型，并推动 OpenAI 的使命。它还可以降低高级智能的成本，使全球人民受益。
编码助手重塑日常工作
在过去一年里，OpenAI 研究人员的日常工作发生了巨大变化。他们全天都在使用编码助手，其总使用量正在迅速增长，超过了其他团队。
- 使用量激增： 到8月中旬，中位数研究员每天都在使用助手，按API价格计算，每天的推理成本超过 600美元。前10%的用户每天消耗的 token 价值超过 7,000美元。
- 超越人力： 目前，研究部门每投入一个“人类工作日”的劳动力，就会相应使用 3.1个“助手工作日” 的计算力。
- 并发工作流： 越来越多的研究人员采用高度并发的工作流程，例如同时运行4个或更多的助手。
这些发现与我们内部许多人的普遍印象一致，即 代理工具正在显著加速研究进展。
更快的编码与更多的实验
AI研究是一个复杂的过程，编写代码和运行实验是其中的两个主要活动。有证据表明，这些过程正在加速。
- 实验数量增加： 到2026年，每位活跃实验者的实验数量有所增加，其中2026年8月达到了自2025年1月开始追踪以来的历史最高点。
- 代码贡献加速： 研究人员贡献代码和运行实验的速度更快。
不过，需要注意的是，随着自动化进程的推进，那些最不适合自动化的任务将成为未来进展的重要瓶颈。计算资源是另一个限制因素，随着其他瓶颈的减少，其重要性可能会增加。
代理处理的任务日益复杂
研究人员委托给编码助手的任务组合正在发生变化，更高层次和更长远的任务变得越来越普遍。
- 任务类型扩展： 最初，助手主要用于编写研究和基础设施代码。现在，技术支持和运行监控 等任务类别也出现了显著增长。
- 高层规划仍由人类主导： 高级规划仍然只占助手输出的极小部分。人类仍然负责设定研究重点、判断想法和结果，以及决定是否扩展、暂停或部署系统。
- 任务成功率提升： 从1月到7月，助手在不同难度任务上的成功率普遍提高。然而，特别是在复杂任务上，助手仍然需要大量的人为指导。在过去6个月里，超过一半成功的4-8小时任务涉及 1次或多次人为干预。
一个有趣的现象是，一些之前为研究人员提供技术支持的答疑会，因编码助手能有效解决问题而出席率下降，其中一个团队甚至完全停止了会议。
安全考量与开发节奏的平衡
更强大的系统也可能更难监控。因此，谨慎的对齐和安全工作是这项努力的核心。
当我们发现继续前进会带来不可接受的安全风险时，我们将采取适当的应对措施，包括减缓或停止我们发现自己无法充分保障的系统的开发或部署。
- 安全事件的响应： 在最近的 Hugging Face 事件后，我们暂停了最新模型的强化学习（RL）训练，同时加固了研究环境并扩大了监控系统的覆盖范围。
- 计算资源的重新分配： 在一次安全事件后，我们对 Astra 模型实施了更严格的安全限制。这导致该模型的GPU分配下降了59.2%，但其他模型类别的分配上升了17.2%。这表明，当引入新的控制措施时，计算资源会自然地被引导到研究中的替代用途。
未来之路：透明与治理
我们将继续改进我们的衡量方法，报告我们的理解，并致力于推动一场关于前沿系统的知情公众辩论和有意义的民主治理。我们计划继续对我们在自动化研究方面的进展保持透明，即使没有强制要求，我们也会这样做。