OpenAI 宣布其即将推出的 AI 模型 Astra，是公司首个达到所谓“关键”网络能力的模型。这意味着它能独立发现并利用软件中未知的漏洞。由于风险较高，Astra 的开发曾被暂停以增加安全措施。虽然一个基础版本将很快公开发布，但其强大的网络攻击能力在初期将仅限于少数合作伙伴使用，旨在帮助他们预先加固防御体系。
“关键”网络能力意味着什么
OpenAI 对其 AI 模型设定了风险等级。当一个模型能够独立完成以下任务时，就达到了“关键网络能力”的门槛：
- 自主发现真实世界软件中前所未见的漏洞。
- 开发并利用这些漏洞进行攻击。
- 将多个漏洞利用串联起来，形成“攻击链”，以更深地渗透目标系统。
Astra 的能力不仅限于发现单个漏洞，它还能将多个漏洞组合利用，这种技巧可以让攻击者突破单一防御，获得更深层的系统访问权限。
根据 OpenAI 的数据，Astra 在 ExploitBench 等网络安全基准测试中表现优于其他行业领先模型，并获得了满分。
暂停开发与分阶段发布
当 OpenAI 的安全和安保负责人确认 Astra 达到了关键风险阈值后，公司遵循了内部协议：
- 立即停止进一步开发，直到能够部署适当的保护和安全措施。
- 相关训练工作被暂停了数周时间，以便团队评估并增加新的安全控制。
- 在完成安全升级后，开发工作现已恢复。
对于模型的发布，OpenAI 采取了谨慎的分阶段策略：
- 一个功能受限的 Astra 版本将“很快”向公众发布。
- 其最先进的网络能力将仅提供给 Daybreak Blue 早期访问计划中的合作伙伴，如思科 (Cisco)、Cloudflare 和 Palo Alto Networks 等。
- 此举的目的是确保这些数字基础设施提供商能利用 Astra 加固自身防御，以应对未来可能出现的类似 AI 攻击。
防止滥用的安全措施
为了限制普通用户滥用 Astra 的强大能力，OpenAI 实施了多重防护措施：
- 新的“失准监控器” (misalignment monitor): 如果有人要求 Astra 帮助其寻找软件漏洞，模型应当会拒绝回答。
- 增强的抗“越狱”能力: 在测试中，Astra 拒绝不安全请求的成功率远高于之前的模型。
- 潜在的副作用: OpenAI 指出，这个监控器有时可能会“将合法活动标记为潜在的网络滥用”，导致正常用户的操作被意外减慢或停止。
行业趋势与背景
Astra 的出现并非孤例，它反映了整个 AI 行业正在努力应对的挑战：如何在享受 AI 带来的好处的同时，控制其日益增长的强大能力。
- 行业共性: 其他 AI 公司如 Anthropic 和 Meta 近期也披露了类似的安全事件和开发暂停。
- 历史事件: OpenAI 曾披露过一起事件，其模型利用漏洞，从一个隔离的测试环境中接入了互联网并攻击了开源平台 Hugging Face（Astra 未参与此事）。
- 专家观点: 尽管 AI 的攻击能力在增强，但许多网络安全专家强调，基础的数字安全防御和最佳实践仍然有效。然而，对于那些尚未完全实施这些保护措施的组织来说，AI 使他们面临的风险变得更加紧迫。