随着一个能够破解万物的“神话级”人工智能模型即将出现,中美两国的 AI 政策正面临剧变。美国政府已经因类似模型而仓促应对,形成了一种事实上的预审批制度。而中国可能在几个月内就将迎来自己的“神话级”模型,这将考验其现有的监管体系。中国的应对方式可能会更加有序,因为它拥有更成熟的官僚机构来处理此类问题,但这也将迫使其在开源战略、国家安全和全球合作之间做出艰难选择。这个转折点不仅重塑技术本身,也深刻影响着 AI 实验室与政府之间的权力关系。
北京会像华盛顿一样恐慌吗?
与美国政府在面对强大 AI 时手忙脚乱、不清楚“谁是负责人”的局面不同,中国的 AI 监管体系可能准备得更充分。
- 中国已有监管基础: 中国早已建立了针对生成式 AI 的监管框架。在 ChatGPT 出现之前,关于深度合成内容的规定就已经存在。企业发布模型前,需要向国家互联网信息办公室(CAC)提交一系列测试报告。
- 现有流程的演变: 面对新的网络安全威胁,监管机构很可能会在现有流程上增加新的测试要求。例如,要求模型增加防止生成恶意代码的保障措施。这是一种流程的扩展,而非颠覆。
- 防御与攻击能力对等: 一个能够发现并执行网络攻击的 AI,同样也有能力发现并修补这些漏洞。因此,更可能出现的情况是延迟发布,让银行、关键基础设施等优先完成系统加固,之后再向公众开放。
中国的治理体系中,有更多监管 AI 的先例。网络安全漏洞问题,不太可能像在美国那样,戏剧性地颠覆现有的一切。
相比之下,美国政府承诺不进行干预,却因私营公司的行动而被迫形成了一个“事实上的非自愿许可预批准制度”。对于如何监管,美国仍在摸索。这可能是少数几个中国不会借鉴美国经验的新兴领域。
有中国特色的“玻璃翼计划”
如果中国出现“神话级”模型,其应对方式将与美国的“玻璃翼计划”(Project Glasswing)有本质区别。在美国,该计划由私营公司 Anthropic 发起,政府是被动应对的一方。
在中国,类似计划将毫无疑问由政府机构发起,并由其预先批准访问名单。
- 谁会获得优先访问权?
- 所有政府机构。
- 国家电网、石油公司等战略资源企业。
- 拥有陈旧、脆弱基础设施的大型国企和公共服务部门。
- 私营企业的角色: 这是一个复杂的问题。如果模型由智谱 AI 开发,政府可能会介入,要求其与阿里巴巴等基础设施提供商合作,以确保整个社会系统的安全。
- 最极端的情况: 安全部门可能会直接接管,将模型开发完全收归国有。虽然这可能性不大且并非明智之举,但如果政府对自身能力过度自信,这种极端情况也并非完全不可能。
“谢谢你,智谱;谢谢你,深度求索……但接下来我们接手了。这现在是一个必须完全内部化的国家优先事项。”
开源的未来何去何从?
近来,关于中国是否会限制 AI 模型开源的讨论愈发激烈,各方信号不一。
- 企业的坚持: 智谱 AI 和 MiniMax 的创始人都高调承诺支持开源。他们认为开源是其取得技术进步的关键,也是将 AI 带给全人类的使命。
- 政府的担忧: 有报道称,中国当局已与顶尖科技公司开会,讨论限制向海外提供最先进的 AI 模型,并可能将泄露专有 AI 技术定为危害国家安全罪。
- 官方的公开表态: 与此同时,中国官员在联合国会议上公开承诺,开源是中国全球 AI 立场的重要组成部分。
这种矛盾反映了中国面临的困境。一方面,将自己定位为“开放的 AI 超级大国”是一个非常有力的全球政治叙事,与美国形成鲜明对比。另一方面,当国家核心安全利益受到威胁时,外交辞令必然会让步于现实。最终的策略可能是:在进行内部安全检查后,有控制地进行分享,从而在维持开放姿态和保障安全之间寻求平衡。
中美能在哪些方面达成共识?
尽管中美在 AI 领域是竞争对手,但双方仍有合作空间,尤其是在应对共同威胁方面。
双方都应该认识到,彼此的情报机构会使用最先进的模型来攻击对方。他们拥有共同利益的领域,在于控制非国家行为者。
然而,合作的上限很低。在开源问题上,两国公司的激励机制不同,导致利益分歧。最可能取得进展的领域是分享国内测试方法和风险识别技术。
- 可以讨论的议题:
- 如何防止非国家恶意行为者(如犯罪集团或恐怖组织)获取并使用强大模型。
- 分享各自在应对劳动力替代、儿童 AI 安全等社会影响方面的政策和经验。
- 在自动驾驶等具体应用领域交流城市监管经验。
一个积极的信号是,中国并未将“AI 安全”视为西方遏制其发展的阴谋,而是出于自身原因认识到技术存在的风险。这为两国在 AI 治理上进行平行探索甚至有效对话,提供了一丝乐观的可能。
国家资本主义与实验室的“巅峰影响力”
面对 AI 带来的颠覆,中美展现了不同的治理文化。
- 中国的模式: 更倾向于直接干预企业运营,例如规定“不能仅仅因为员工被 AI 取代而解雇他们”。这是一种深入企业内部、自下而上的“修修补补”的方法。
- 美国的模式: 更倾向于宏观经济手段,例如让政府持有 AI 公司的股份作为一种税收,然后进行再分配。这是一种看起来更“干净”的自上而下的解决方案。
一个值得警惕的趋势是 “政策人才流失”。顶尖的政策专家正被 AI 公司以高薪挖走,这可能导致未来的 AI 政策主要由这些公司参与制定。
今天可能是 AI 实验室对政策话语权拥有巅峰影响力的时刻。
随着 AI 对社会的影响越来越大,它将成为一个核心的公共和政治议题。届时,选民和政治家可能会推动更强硬的监管,公司的影响力反而会下降。在此之前,这些实验室正试图利用当前窗口期,尽可能塑造有利于自身的政策环境。