Synth Daily

Richard Danzig 谈 AI 与网络安全

人工智能(AI)正以前所未有的速度引发深刻变革,其影响力堪比16世纪市场经济的兴起,但时间尺度却被压缩到短短几年。美国国家安全体系因其僵化的官僚结构和被动的思维模式,未能有效应对这一挑战。与其寄望于未来遥远的“通用人工智能”(AGI),不如立即行动,利用当前“尖峰式”的技术突破,尤其是在网络安全领域抢占先发优势。要实现真正的变革,必须依靠强大的文官领导与开放的军方领袖合作,并深化政府与私营企业的伙伴关系,因为技术的发展与人类社会的适应是一个相互影响、共同演进的过程。

一场压缩在十年内的革命

AI 是一项巨大的变革性技术,其影响深远。一个恰当的类比是16世纪封建主义向资本主义的转型,那场“大转型”花了两个世纪才完成。而由 AI 引发的变革,其规模相当,但发生的时间可能被压缩到不足十年

如果让1500年的人预测资本主义带来的后果,他们几乎不可能猜到未来两百年会发生什么……我们同样无法满怀信心地预测 AI 的所有后果。

因此,理解这一变革的关键在于聚焦一个具体且重要的领域:网络安全。AI 自动化的攻防能力带来了巨大的机遇和风险。

  • 先发优势至关重要:无论 AI 最终是增强防御还是攻击,率先掌握并应用的一方将获得巨大优势。
  • 优势转瞬即逝:这种优势是暂时的。如果你能先于对手加固自己的系统,或在对手系统中植入威慑手段,你将处于极为有利的位置。
  • “立即行动的紧迫性”:现有体制倾向于被动反应,但 AI 领域的竞争要求我们必须迅速行动,抢占先机。

错误的期待:不要坐等“救世主式”的通用人工智能

目前存在一种普遍的消极心态,其理由是“通用人工智能(AGI)将改变一切”,因此可以推迟当下的行动。这种想法是错误的。

  • 革命是持续进行的:AI 的发展是一场持续的革命,而非等待某个未来奇点的降临。当下的技术突破已经足以颠覆攻防平衡。
  • AI 的发展是“尖峰式”的:AI 的能力在某些特定领域会迅速突破,而在其他领域则进展缓慢。它不是一个无所不能、横扫一切的“弥赛亚”。
  • 专注于当下:最好的策略是立足于现在,通过实践来积累专业知识、提升整合能力,并与前沿公司建立关系。这才是通向不确定未来的最佳路径。

我担心那种“我手里有王牌,所以不用关心眼前常规需求”的想法。

历史上有过类似的教训,比如认为核武器可以完全替代常规军事力量,但事实证明,在冲突的不同层级,近期的常规能力依然不可或缺。

官僚体制的沉疴:为何国防部“起不了床”

美国国防部了解 AI 的重要性,但问题在于它无法真正“起床行动”。其深层原因在于其僵化的官僚结构和文化。

官僚机构就像 AI 模型,其决策受到预设“权重”的影响。

  • 组织结构的局限性:当陆军专注于陆战,海军专注于海战,却没有一个同等地位的“网络军”时,网络领域在决策、预算和晋升中的权重必然被低估
  • 思维定式:军队倾向于用新技术去“更好地做老事情”,例如用 AI 辅助飞行员或目标识别。这虽然有意义,但远未触及 AI 的革命性潜力。
  • 缺乏竞争和淘汰机制:私营部门通过竞争和“创造性破坏”来推动创新,失败的企业会被淘汰。但在国防领域,我们无法创造一个“替代海军”来竞争,只能在现有体制内改革。
  • 人才与知识的鸿沟
    • 政府高层极度缺乏真正的 AI 专业知识
    • 高级军官普遍缺乏对 AI 的工作知识。
    • 与掌握核心技术的私营企业距离遥远,国家安全并非这些公司的首要议程。

前进之路:领导力与合作

要打破僵局,需要多方面的合力。

  • 文官与军方的合力:变革需要强有力的文官领导与思想开放的军方将领结成联盟。仅靠军方内部力量,由于制度约束和资源竞争,很难推动根本性变革。
  • 国会的角色:国会更多是“加速器”或“刹车”,而非“方向盘”。它可以通过提供资源来支持变革,或通过削减预算来阻碍变革,但很难主导具体的改革方向。
  • 政府与企业的深度协作
    • 政府应加大对私营企业的投资,并促进人员交流。
    • 私营企业也应在其议程中给予国家安全更高的优先级。
    • 如果无法实现合作,政府最终可能会通过监管来介入,因为将如此强大的力量完全留在私人手中是不可想象的。

我无法想象一个未来,超级智能的非凡力量被掌握在少数几家私营公司的领导者手中。

历史的启示:技术与人类的共同演进

AI 带来的挑战不仅是技术本身,更在于人类如何与之互动和适应。

对于 AI,我们就像1500年的欧洲政府看待新大陆一样。他们知道这很重要,会改变一切……但他们的理解充满了幻想。

  • 技术与人类的共同演进:技术的发展会改变人类,而人类的适应和使用方式反过来也会塑造技术的发展方向。这是一个双向互动的过程。
  • 风险的双重来源:风险不仅来自技术本身(如失控),也来自人类的使用(如恶意攻击或意外事件)。当 AI 发动网络攻击时,我们很难分辨是机器失控还是对手的蓄意行为,这将给人类的应对带来巨大挑战。
  • 私营力量的崛起:正如1600年成立的英国东印度公司最终拥有比英国政府还庞大的军队并征服了印度,今天的科技巨头也在探索和塑造 AI 这个“新大陆”,使得政府间的互动变得更加复杂和不透明。