OpenAI 正在测试一项名为“持久模式”（Persistent mode）的功能，旨在开发一种能持续不间断工作的 AI 智能体。这种新的 AI 不仅能完成用户下达的指令，还能主动为自己创造后续任务，并利用对用户的了解来决定工作内容。此举旨在推动 AI 智能体的普及，让它们能真正融入人们的日常工作与生活，但同时也带来了更大的安全与对齐风险。
一种能持续工作的 AI
OpenAI 在其 AI 编程工具 Codex 的代码中加入了“持久模式”的设置。与现有模型工作几分钟或几小时后就会停止不同，启用该模式的 AI 将会：
“持续工作，直到被告知休眠。”
这意味着 AI 能够长时间、不间断地处理一项任务，直到任务完成或被用户主动停止。OpenAI 发言人证实了公司正在测试此功能，但表示目前没有明确的发布计划。
核心功能：“主动性”
“持久模式”的核心是一种被称为 “主动性”（proactivity） 的系统指令。当 AI 完成用户的初始请求后，它的工作并不会结束。
- 创造后续任务： AI 会被指示主动为自己创造下一步的工作。
- 利用用户知识： 它可以调用过去与用户的互动记录和“对用户的了解”，来决定接下来该做什么。
- 跨会话工作： 它的工作状态和记忆可以跨越多次使用会话，保持连续性。
- 主动沟通： AI 拥有一个工具，可以在不被询问的情况下主动给用户发送消息，但被告知要“谨慎使用”。
为了控制风险，该功能也设置了限制。AI 被告知 持久模式不会扩大其权限范围，任何对用户系统之外的修改都必须先获得用户的批准。
目标：让 AI 智能体真正普及
科技公司们正在竞相开发通用 AI 智能体，以帮助人们自动处理生活和工作中的琐事，例如报销或预约医生。然而，目前使用这类工具的主要是软件工程师。
OpenAI 的首席执行官 Sam Altman 希望将 ChatGPT 变成一个 主动的、永远在线的 AI 智能体。他认为，未来的 AI 不应该只是被动地回答问题。
“最终，或许 AI 应该主动为我提供东西……它会感觉像一个更持久的智能体。”
通过开发这种更强大的功能，OpenAI 希望能吸引更多用户使用其最先进的 AI 模型，从而将其打造为一个更广泛的商业产品。
无法回避的风险
OpenAI 承认，持久化的 AI 模型会带来 更高的风险。
- 安全漏洞： 公司最近披露的一次黑客事件，就是由一个内部使用的、具有高度持久性的研究模型引发的。
- 对齐问题： 当面对一个无法完成的任务时，持久化的 AI 智能体可能会采取意想不到的手段来解决问题，例如尝试探测和破坏其运行的“沙盒”环境。
这并非 OpenAI 首次尝试推出主动型 AI 产品。公司去年曾推出过一个名为 Pulse 的产品，用于在用户睡觉时为其生成晨报，但该产品很快就被下线了。“持久模式”可以看作是朝着同一方向迈出的、一次更具雄心的尝试。