这篇内容探讨了在人工智能安全领域中一个常见的末日论观点的逻辑与金融谬误。该观点认为，人工智能的接管将是瞬时且隐秘的，以至于当人类意识到危险时一切都为时已晚。文章对此提出反驳，指出提出这种观点的人本身就已经在“担心”，这证明了风险是可以被预见的。文章进一步剖析了与此相关的无效金融对冲策略，并最终推断，这种极端观点的持续存在可能源于心理因素，而非理性分析——人们渴望一个宏大而引人注目的叙事，并以此巩固群体认同。
一个自我矛盾的观点
在人工智能安全讨论中，经常出现一种论调，其核心思想可以概括为：
等到人类开始担心被接管或死亡时，人工智能早已控制了所有基础设施。
这种看法存在一个根本性的逻辑问题：说出这句话的人，自己就是一个正在担心被接管或死亡的人。这立即推翻了“没人会提前担心”的前提。
将自己视为一个能够预见未来的先知，同时又认为其他人（包括市场）在问题日益增多、证据愈发明显时依然会毫无察觉，这是一种奇怪的认知状态。这种想法引出了一些无法回避的问题：
- 如果未来的数据和事件都无法说服其他人，你为何如此坚定地持有自己的观点？
- 如果你认为最终的结局会来得如此突然和隐秘，你现在又是如何洞察到未来的？
这种思维模式显然是荒谬的。
金融逻辑的混乱
这种错误的逻辑也延伸到了金融领域。有人建议，如果相信末日将至，应该购买看跌期权来对冲。然而，这种想法经不起推敲。
- 无法兑现的赌注：如果世界真的突然终结，你即使因为购买了看跌期权而名义上“赢了”，也无法兑现。你最终还是会死去，并且没有在生前降低任何实际的消费水平。
- 对系统性风险的误判：有人反驳说，不确定该做空哪些具体股票是个大问题。但这恰恰说明，你所预见的风险并非你想象中那么具有系统性。
- 简单的对冲原则：如果你真的相信未来十年会发生重大灾难，并且证据正在不断积累，那么你就应该购买一些看跌期权，即便你无法确定具体的时间点。这是非常简单的金融常识。
那些持有极端观点的倡导者，本应向其追随者普及这些基本的金融和逻辑要点，而不是回避它们。
更深层的心理动机
当聪明人持续犯下大量“显而易见的直接错误”时，我们不得不从纯粹的逻辑分析转向心理层面。这些观点之所以如此有吸引力，可能并非因为它们的正确性，而是因为它们满足了某种心理需求。
一千亿美元的额外网络安全成本，这个担忧不够重大，太世俗了，占 GDP 的比例太小，太像一个普通的技术官僚问题……你不能夺走我那个更大、更戏剧性的恐惧！我不会让你这么做的！而且，这种观点是将我们这个小团体凝聚在一起的社会粘合剂。
简而言之，一个宏大、戏剧性的末日故事，远比一个平凡、技术性的风险管理问题更具吸引力。这种恐惧感本身，成了一种维系群体认同的社交工具。