人工智能正从协助处理文档的后台工具，演变为影响现代战争决策的核心力量。通过回顾从“梅恩项目”（Project Maven）到近期 Anthropic 公司与美国国防部冲突的历程，我们可以看到技术专家与军方在自主武器、伦理界限及技术失控风险上的深刻分歧。当前的焦点在于：当不可预测的 AI 进入复杂的战场，人类是否还能保持最终的控制权。
从辅助工具到战场大脑的转变
军事 AI 的应用早已超越了最初的图像识别。早期的 “梅恩项目” 旨在利用计算机视觉分析无人机视频，将海量数据转化为“可行动的情报”。而现在，AI 正在更深层次地介入指挥链路：
- 数据分析与模式识别： 像处理海量案例的律师或医生一样，军方利用大语言模型（LLM）分析信号情报、绘制地图资产，并为指挥官提供洞见。
- 自主防御系统： 现实中已经存在能够自动拦截导弹的防御系统，其反应速度远超人类。
- 无人机群（Swarms）： 随着廉价无人机在战场的大规模应用，人类已无法逐一操控数十个目标，这迫使自主作战成为技术上的必然趋势。
硅谷与五角大楼的理念冲突
近期，AI 公司 Anthropic 与美国国防部（DOD）的紧张关系凸显了价值观的冲突。Anthropic 拒绝放宽对其模型使用的限制，特别是在大规模监视和自主武器领域，随后被美方官员指责为“供应链风险”。
“将 Anthropic 标记为供应链风险是一个极端的举动，这种待遇通常只针对像华为这样的公司。这反映了军方对技术受限的强烈焦虑。”
这种冲突的本质在于：
- guardrails（护栏）的缺失： 军方需要的可能是“去对齐”的版本，即移除那些防止模型讨论武器或冲突的安全限制。
- 黑盒困境： 一旦公司将模型交付给军方，他们就失去了对其用途的可见性。在高度机密的军事行动中，模型究竟是仅用于总结文档，还是参与了具体的打击目标选择，外界无从知晓。
AI 武器化的核心风险：不可预测性
与传统的导弹或硬件不同，AI 是非确定性（Non-deterministic）的。这意味着即使它在前 999 次都表现完美，第 1000 次也可能出现毁灭性的失败。
- 拟人化的欺骗性： AI 能够以非常人性化、自信的语气交流。这种“人格感”可能诱使士兵产生过度信任，从而在关键时刻忽视了系统可能存在的幻觉或错误。
- 动态进化的复杂性： 战场环境瞬息万变，AI 在面对未曾训练过的陌生环境时，错误率会大幅上升。
- 责任链的模糊： 虽然国防部强调“人类始终在回路中”，但当决策窗口被缩短到毫秒级时，人类的判断往往只是流于形式的“盖章”。
竞赛的代价：大国竞争与安全平衡
美国军方急于推进 AI 应用的一个核心驱动力是与中国的技术竞赛。在五角大楼看来，AI 是维持军事优势、抵消对手规模优势的关键手段。
然而，这种“必须跑得比对手快”的紧迫感，正导致安全审查被简化。技术专家担心，这种狂热可能导致自我实现的预言：为了防止落后而疯狂武装 AI，反而加速了冲突的爆发。
“目前的 AI 并不像一枚射出后就保持惰性的导弹。它是一个动态系统，被灌输了特定的价值观或‘宪法’。问题在于：这些价值观由谁决定？是当权者，还是科技巨头的 CEO？”
公众和政策制定者必须意识到，AI 军事化不仅仅是工具的升级，更是对战争本质的重塑。在技术进步超过监管速度的当下，明确“不准跨越的道德红线”比研发更强大的算法更为紧迫。