OpenAI 发布了一份关于前沿人工智能治理的联邦政策蓝图。该蓝图主张以民主治理和透明度为核心，重点应对网络安全、生化核威胁（CBRN）、递归自我改进（RSI）和失控等重大风险。方案建议由一个名为 CAISI 的机构对最强大的模型进行强制性评估，并提出缓解措施，同时强化安全、事故报告和问责制。这份蓝图还提议建立一个统一的联邦框架来取代各州的法规。尽管该提案被认为是务实且超出预期的，但其关键隐忧在于：联邦法案对州法案的取代范围、执法力度是否足够、问责机制是否真正“有牙齿”，以及其内容是否会在政治妥协中被进一步削弱。
蓝图的核心目标
OpenAI 提出的框架旨在实现几个核心目标，这些目标之间存在一定的冲突，但为讨论提供了一个良好的起点。
- 处理前沿风险： 缓解高级通用人工智能系统带来的最严重风险，包括 网络安全、CBRN 威胁、递归自我改进 (RSI) 以及可能导致灾难性后果的 失控场景。
- 推进民主治理： 关于如何管理前沿人工智能风险的决策，应通过代议制政府做出，而非由私营公司单独决定。
- 促进透明度： 政府、研究人员、企业和公众需要关于前沿人工智能如何开发、评估和部署的可靠信息，以实现问责和监督。
- 保护创新： 框架应专注于最高风险，避免为初创公司和研究人员设置不必要的障碍，同时不将当前的行业结构固化为法律。
- 建立适应性制度： 人工智能发展迅速，治理体系必须能够随技术一同演进，不断学习、试验和更新标准。
OpenAI 在文件中反复强调，希望将责任集中在民间机构 CAISI，而非国家安全局（NSA）。这一点至关重要，且获得了广泛认同。
一项三步走的战略
为了实现上述目标，蓝图提出了一项三部分的战略，被认为是明确且良好的开端。
- 建立一个国家框架，该框架将借鉴各州在前沿安全立法方面已形成的共识。
- 加强 CAISI 作为美国联邦政府在前沿人工智能安全方面的主要机构。
- 动员更广泛的政府韧性计划，以应对前沿人工智能带来的国家安全和公共安全挑战。
国家框架的构想与主要担忧
OpenAI 提议，国家框架应以加州、纽约和伊利诺伊州的相关法案为基础，由强化的 CAISI 负责执行。
- 具体措施包括： 严重风险评估、透明度要求、独立审计、安全事件报告、模型权重安全、举报人保护和有意义的问责机制。
- 作为交换： 国会将取代（preempt）各州围绕前沿安全制定的法律。
尽管这在原则上提供了一条可行路径，但也引发了五个重大担忧：
- 问责制的力度： “有意义的问责”必须真正有力。对于这个级别的违规，百万美元甚至数十亿美元的罚款可能都不够，需要能够强制合规的手段。
如果我们将这些法案移至联邦层面，我们都知道谁将负责执行。一个真实的可能性是，我们通过了一项真正有后果的法案，但它……根本没有被执行。
- 政治妥协的风险： 州级法案在联邦化过程中可能会被进一步妥协和削弱，使得最终的法案比最初的提案更弱。
- 联邦取代（Preemption）的范围： 如果联邦法案取代了所有“前沿风险”相关的州法律，可能会导致各州无法制定有意义的法规，而国会又可能不再采取行动。必须非常谨慎地界定取代的范围。
- 虚假的安全感： 这项立法可能被视为“我们已经解决了前沿风险”，而实际上问题远未解决。
- 执行的可靠性： 最大的担忧是，即使达成了协议，联邦层面的执行也可能缺乏力度或充满随意性。一旦联邦取代了州法，未来的修改方向也无法保证是积极的。
CAISI 的角色与挑战
蓝图的核心之一是 授权和资助 CAISI，使其拥有独立的评估能力，而不是依赖国家安全局。
方案建议对最强大的前沿模型进行 强制性评估，但评估本身不应成为批准或阻止部署的关卡。CAISI 的角色是“进行评估并建议缓解措施”。
这引出了一个棘手的问题：如果评估结果亮起了红灯，该怎么办？在实践中，如果红灯足够响亮，国家安全机构和行政部门很可能会采取行动，无论是否有具体授权。
整体政府的韧性计划
这部分内容更像是一个待办事项列表，包含了一些值得做的、但较为模糊的好事。
- 促进在人工智能安全方面的国际合作，特别是围绕 递归自我改进（RSI） 的进展进行沟通。
- 保护美国的计算优势。
- 限制采用未经评估的前沿人工智能系统。
- 确保防御能力的扩展速度超过攻击能力。
- 为未来的韧性挑战做准备。
总而言之，这份蓝图被认为是一份非常合理的文件，超出了许多人的预期，为未来的严肃讨论提供了一个良好的起点。然而，真正的考验在于，这些想法是否能够转化为有力的、可执行的法律，而不是在政治博弈中被稀释。