据报道,白宫要求 OpenAI 推迟其新模型 GPT 5.6 的公开发布,转而采用一种更谨慎的有限发布策略。此举源于对前沿人工智能模型潜在安全风险的担忧,特别是其在网络攻击方面的能力。这一做法反映了美国政府对 AI 监管的加强,也与 Anthropic 公司对其强大模型采取的保守发布策略相似。
OpenAI 的发布新规
OpenAI 的最新模型 GPT 5.6 不会像以前一样直接向公众发布。根据其首席执行官 Sam Altman 的说法,公司将采取一个分阶段的发布计划:
- 初期有限预览: 首先,该模型将仅提供给少数紧密的合作伙伴。
- 政府逐一审批: 在预览期间,美国政府将 “按客户逐一批准” 访问权限。
- 后续公开发布: 如果预览期顺利,OpenAI 希望在几周后进行更广泛的公开发布。
政府加强 AI 监管
这一变化标志着美国政府对 AI 监管态度的转变。此前,特朗普政府曾标榜对 AI 采取 “不干预” 的方针,但近几个月已明显转向加强联邦层面的监督。
- 新的行政命令: 政府已签署一项行政命令,要求某些 AI 公司在公开发布新模型前,必须将其提交给政府进行测试和评估。
- 跨部门合作: 据报道,要求 OpenAI 进行有限发布的机构包括国家网络总监办公室和科技政策办公室。
相似的先例:Anthropic 的谨慎策略
OpenAI 的做法并非没有先例。竞争对手 Anthropic 在发布其前沿网络模型 Claude Mythos 时也采取了类似的限制措施。
Anthropic 当时认为,其模型“过于强大”,如果落入不法之徒手中,可能会弊大于利。
该公司通过一个名为“玻璃翼计划”(Project Glasswing)的项目,仅向少数合作伙伴发布了该模型。此举引发了广泛讨论,外界猜测这究竟是出于真实的安全考虑,还是仅仅是一种营销噱头。
核心担忧:AI 与网络安全风险
政府和企业之所以如此谨慎,是因为生成式 AI 已为网络犯罪分子提供了前所未有的强大工具。
- 自动化攻击工具: 大语言模型(LLM)已被证明擅长编写恶意软件,有些甚至可以自主执行完整的勒索软件攻击。
- 超人类的速度: 最主要的担忧是,像
Mythos这样的模型能够以远超任何人类分析师的速度,自动识别和利用软件漏洞。
由于许多复杂的软件系统都包含可作为企业网络入口的隐藏漏洞,这种能力对任何依赖复杂软件基础设施的组织都构成了明显且重大的威胁。
然而,由于这些最先进的模型仍未对公众开放,它们构成的真实威胁程度目前还难以准确评估。