近期围绕人工智能安全漏洞的讨论引发了许多极端反应，有人甚至预测“人工智能将在数月内全面接管”世界。然而，这种恐慌情绪并非新鲜事，它遵循了一种历史模式：每当出现一个真实的技术问题时，公众往往会因生动的个别事件而陷入非理性的恐惧。我们真正需要的不是情绪化的末日预言，而是一种冷静、理性的方法，即通过量化评估来估算潜在的风险与应对成本。
夸张的末日论调
针对最近的人工智能安全事件，一些评论员的反应极其戏剧化，展现出一种普遍的恐慌情绪。
- 有评论员担心这会引发一场“数月内全面的人工智能接管”。
- 另一位则悲观地表示，正在为“我们即将到来的灭绝感到一丝悲伤”。
- 人工智能安全领域的专家甚至称：“这可能是我们得到的最后一个警告。”
一位评论员认为，该事件“感觉已经超过了通往全面人工智能接管之路的50%”。
反复出现的过度反应模式
这种因单一情感冲击事件而引发集体恐慌的现象，在历史上曾多次上演。尽管问题本身是真实存在的，但我们的反应往往不成比例。
这是一个熟悉的错误循环：让情绪化的反应压倒了理性和定量分析。
类似的历史案例包括：
- 1960-70年代对 DDT 的恐慌
- 2000年的 千年虫（Y2K）危机
- 对全球变暖的某些极端叙事
- 新冠疫情期间的社会反应
- 沙利度胺（Thalidomide）事件
- 对核能的恐惧
如今，同样的夸大逻辑在人工智能安全问题上再次出现，并通过社交媒体和主流媒体固有的负面偏见被进一步放大。
呼吁：用量化分析代替情绪宣泄
如果我们真的要讨论这个问题，就应该采取一种更务实、更具技术性的态度。
简而言之，我们真正需要回答的问题是：创建我们都认为至关重要的基本保障措施，实际需要花费多少成本？对于那些我们无法控制的问题，剩余的损失又会是多少？
与其沉溺于对风险的担忧，不如尝试提供一个具体的估算：
- 量化成本：在未来一到两年内，先进人工智能可能带来的网络安全成本究竟是多少？
- 明确比例：将这个数字以国内生产总值（GDP）的百分比形式表达出来。
- 回归科学：我们应当专注于科学和量化的分析，而不是陷入过去那种常见的情绪化过度反应。
正如《星际迷航》中的总工程师史考提所说：“骗我一次，算你可耻；骗我两次，是我活该。” 我们不应在同一个问题上反复犯错。