当前的AI发展常被误认为是一场不可逃避的“军备竞赛”，但这种认知可能是一个致命的误区。实际上，单纯追求速度并不符合参与者的长远利益。将这一局面比作“特洛伊木马竞赛”更为贴切：各方都在争先恐后地将木马拖进自己的城门，却忽略了木马内部可能藏着毁灭性的危险。因此，不应再以“必须赢得竞赛”为借口来牺牲安全或放弃国际协作。
冲刺并不等同于“竞赛”
很多人观察到科技公司都在拼命加速，就理所当然地认为这是一场谁快谁赢的竞赛。然而，“正在冲刺”和“冲刺是最佳策略”是两回事。
- 行为与利益的错位：就像一群顶级棋手在疯狂下棋，但如果所有的奖金其实是发给跳棋玩家的，那么他们下得再快也毫无意义。
- 策略性的误判：目前的AI开发者可能正在采取一种错误的竞争策略，这种策略不仅对自己不利，还会给他人带来巨大的风险。
“特洛伊木马”式的博弈
为了更直观地理解这种激励机制，可以把AI开发想象成一场特洛伊木马竞赛。
各个城市都在努力抢在对手之前，把一个巨大的木马拖进自己的城门。他们担心如果慢了，对手就会利用木马里的东西超越自己。
然而，关键问题在于：
- 木马里装的是无尽的财富，还是致命的敌人？
- 在当前的AI发展中，我们几乎可以确定木马里装有一些“代理程序”，但我们完全无法保证它们的忠诚度。
- 在这种情况下，抢先让木马进城可能意味着抢先导致自我的灭亡。
危险的辩护逻辑
“我们必须赢”这种说法，经常被用来为以下两种危险行为辩护：
- 牺牲公共安全：以“不快就会输”为名，不计后果地推进开发，哪怕这会威胁到全人类的安全。
- 放弃协调合作：预设其他玩家绝对不会停下来，从而认为尝试建立监管或协作是徒劳的。
核心洞见：如果这根本不是一场国际象棋比赛，那么以“必须赢得冠军”为理由去冒生命危险，就是逻辑不通的。我们需要看清现实：如果奖品本身可能是一个陷阱，那么跑得最快的人，未必是最后的赢家。
现实意义
我们必须区分“人们正在做什么”和“做这件事是否真的对他们有利”。
- 质疑前提：当有人说“我们不得不这样做”时，我们必须审视这种竞争的激励结构是否真实存在。
- 拒绝盲目冲刺：理解了“特洛伊木马”的本质后，盲目追求速度的合理性就会土崩瓦解。
- 重新审视协作：如果领先者意识到木马里的风险，他们反而更有动力放慢脚步，并寻求与其他城市的协作。