人工智能正在迅速融入现代战场，这加剧了冲突升级的风险，尤其是在核大国之间。通过模拟一场美中台海危机，可以看出主要危险并非来自完全失控的“流氓 AI”，而是源于 AI 如何压缩人类决策时间、加剧“自动化偏见”并放大因错误数据或宽松交战规则而导致的人为失误。因此，解决方案不在于简单地禁止或完全依赖 AI，而在于建立更严格的控制规则、训练指挥官对其保持怀疑，并始终确保人类掌握最终的决定权。
一场模拟战争，一个真实问题
在一个模拟的美中台海危机兵棋推演中，局势因美方向台湾提供先进导弹而急剧升温。随着双方军事力量集结，一次意外的走火事件让冲突一触即发。为了应对复杂局面，指挥官启用了新部署的 AI 防御中心，该系统能够协调所有舰船的防御系统，比人类更快地做出反应。
尽管在测试中准确率高达 95%，但参与者们仍选择了一种谨慎的“人在回路”（human-in-the-loop）模式，即 AI 做出判断后，仍需人类下达最终开火命令。
然而，谨慎并不足以避免灾难。几天后，AI 系统出现故障，错误地向一艘美国船只开火，造成美军伤亡。这起事件迅速点燃了美国国内的复仇情绪，使局势滑向全面战争的边缘。这个虚构的场景揭示了一个非常现实的担忧：AI 系统可能会导致军事危机以超乎人类控制的速度失控。
战场 AI 已成现实
曾经感觉像是科幻小说的场景，如今已成为战场常态。
- 俄乌战争： 美国利用 Palantir 公司的 Maven 智能系统，每天向乌克兰军队提供数十个潜在的俄军目标。乌克兰也开发了被称为“火炮界优步”的系统来协调前线火力。
- 加沙冲突： 以色列军方使用名为“薰衣草”（Lavender）的 AI 系统来识别哈马斯目标，但据报道其错误率可能在 10% 左右。
- 五角大楼的推动： 美国国防部正积极推动 AI 在军事系统中的广泛应用。他们甚至曾威胁要阻止 Anthropic 公司（其产品 Claude 被用于军事行动）的服务，因为该公司要求其软件不得用于大规模监视或自主武器，坚持在生死决策中保留“人在回路”。
在低强度冲突中，AI 导致的错误可能导致平民悲剧；但在中美这样的“近邻”超级大国之间，同样的错误可能引发全球性的灾难。
军事危机中最重要的事情莫过于信息感知和对决策的控制。 — 迈克尔·霍洛维茨，前美国国防部副助理部长
AI 如何扰乱“升级阶梯”
冷战时期，战略家赫尔曼·卡恩提出了一个 44 级的“升级阶梯”来模拟核时代的冲突演变。然而，AI 的介入可能会彻底打乱这种线性的、可预测的升级过程。
一个主要担忧是，如果关键决策被委托给 AI 系统，而这些系统又在回应敌方 AI 系统的决策，冲突可能会在人类决策者介入之前就迅速升级。这被称为“闪电战”（flash war）的风险，类似于 2010 年因算法交易程序相互作用而引发的股市“闪崩”事件。
前五角大楼官员丽贝卡·赫斯曼提出了一个更复杂的概念：“虫洞升级”（wormhole escalation）。她认为 AI 会通过以下几种方式，让冲突以不可预测的方式跳跃式升级：
- 数据污染： 敌方可能通过欺骗或污染 AI 系统赖以分析的数据，来诱导你做出错误的决策。
- 深度伪造： AI 生成的虚假信息或“深度伪造”内容可能影响军事或政治领导人的判断，推动他们走向更具攻击性的立场。
- 能力混淆： 俄罗斯和中国都拥有既能搭载常规弹头也能搭载核弹头的“军民两用”导弹。在冲突中，AI 驱动的作战管理系统可能会为了作战效率，在一次常规攻击失败后，立即命令潜艇等近距离单位发动攻击。这可能将对手决定是否遭受核打击的反应时间从几分钟缩短到几秒钟。
一个为预定目标而优化的 AI 可能会忽视缓和局势的机会，不是因为它技术上出了故障，而是因为它在设计上就缺乏建立信任或管理危机所需的模糊性。 — 詹姆斯·约翰逊，《人工智能与炸弹》作者
真正的弱点是人类，而非人工智能
与其担心 AI 自行升级冲突，许多专家更担心 AI 会让人类更容易选择升级冲突。这背后是一个关键的心理学概念：自动化偏见（automation bias），即人类倾向于过度相信计算机生成的建议和结论。
AI 最危险的地方可能不是不确定性，而是它所提供的过度自信和错误的确定性。这些工具本身就是为了增强用户的信心而设计的。 — 杰奎琳·施耐德，斯坦福大学胡佛研究所
AI 系统，特别是那些设计得“更自信”的系统，可能会掩盖信息中的不确定性，向指挥官呈现一幅过于清晰、简单的战场图景，从而诱导他们做出更具风险的决定。
幸运的是，这种偏见或许可以通过训练来纠正。一项研究发现，西点军校的学员表现出的自动化偏见程度不到平民的一半，这表明军事专业人员可以学会对 AI 的建议持保留态度。
最终，AI 只是一个放大器。无论是美军在伊朗的误炸，还是以色列在加沙的行动，导致平民伤亡的根本原因，更有可能是过时的数据和极为宽松的交战规则——这些都是人为设定的。如果人类决策者本身就倾向于冒险和降低附带伤害的标准，AI 只会更高效地执行这些危险的指令。
当未来的冲突爆发时，人们可能会轻易地将责任归咎于 AI 加快了战场节奏或让指挥官过于自信。但最终，是人类自己选择将自己置于那种境地。