尽管中美在人工智能领域存在激烈竞争，但双方更应优先合作，共同应对前沿 AI 带来的网络安全与系统性风险。随着 AI 模型变得更强大、更具自主性，其在代码漏洞、自动化攻击等方面的威胁也随之加剧，尤其是在开放权重模型领域。文章的核心观点是，中美两国必须像核时代的美苏一样，在不泄露核心机密的前提下，共同制定安全原则与技术标准，以避免发生“切尔诺贝利式”的 AI 灾难。
AI 带来的普遍网络安全挑战
随着 AI 技术，特别是具有自主能力的模型（Agentic AI）的发展，新的网络安全风险正在浮现。这些挑战是全球性的，不分国界。
- 代码漏洞： AI 生成的代码可能包含新的、难以预见的漏洞。
- 自动化攻击： 具备工具使用能力的 AI 代理，可以实现新颖的系统攻击方式。
- 社会工程： AI 可被用于自动化、大规模地执行社会工程攻击。
短期内，攻击者可能会利用这些新技术获得优势。但长期来看，新的防御措施（同样可能由 AI 驱动）有望重新平衡攻防局面。
“如果不同国家能以相似的方式理解风险，就更容易制定共同的安全原则和技术标准。关键在于找到既能降低系统性风险，又不会暴露敏感操作细节的共享领域。”
合作的必要性：以核安全为鉴
尽管中美在 AI 领域存在竞争，甚至美国对中国实施了严格的芯片和技术出口限制，但双方在防止 AI 失控方面有共同的利益。AI 技术的全球性意味着其收益和危害都是全球性的。
麻省理工学院的计算机科学家 Stephen Casper 指出，在 AI 危险问题上进行国际合作的好处，超过了合作本身可能带来的任何国家安全风险。他将当前局势比作冷战时期的美苏关系，当时两国即使在疯狂进行军备竞赛，也必须在核安全问题上进行合作。
“现在几乎所有 AI 从业者都能达成共识的一件事是：AI 领域不需要一个‘切尔诺贝利时刻’。”
开放权重模型的困境
开放权重模型（Open-weight models）已成为研究和创新的关键，许多中国发布的模型在美国也很受欢迎。然而，这带来了一个棘手的平衡问题：如何在拥抱开放与创新和控制风险之间取得平衡。
- 风险： 随着模型能力增强，它们被用于识别安全漏洞或作为网络武器的风险也在增加。
- 趋势： 中国公司如月之暗面 (Kimi)、阿里巴巴 (Qwen) 和智谱 AI (GLM) 在高性能开放权重模型方面一直处于领先地位。
- 临界点： 即使是能力稍弱的开放模型，一旦其安全护栏被移除，也可能变得非常危险。例如，中国奇虎 360 公司已声称其开发的 AI 模型在黑客能力上可与顶尖封闭模型媲美。
为了应对这一挑战，行业需要建立新的机制来确保开放模型：
- 保持最新状态，及时修复漏洞。
- 没有后门和安全隐患。
- 符合统一的安全标准。
一个值得关注的迹象是，据一位中国顶尖 AI 公司的匿名人士透露，出于安全考虑，一些先进的中国模型已不再作为开源发布。这表明，对系统性风险的担忧正在促使行业变得更加谨慎。