美国国家气象局（NWS）发布的一张由人工智能生成的爱达荷州风力预报图，因凭空“幻觉”出多个不存在的城镇而引发了公众关注。这一事件凸显了在公共安全领域实验性地使用 AI 技术的潜在风险。虽然此次错误未造成实际危害，但它暴露出自动化可能损害数据质量和公众信任，并警示我们，若不加谨慎，类似的技术失误可能在未来导致更严重的后果。
一张地图上的“幽灵小镇”
美国国家气象局发布了一张关于爱达荷州周末风力的预报图，但一些观察敏锐的人发现地图上的城镇名称十分奇怪。
- 地图上出现了诸如 “Orangeotild” 和 “Whata Bod” 这样的地名。
- 这些地名实际上并不存在，它们是生成式人工智能的 “幻觉” 产物。
- 气象局随后确认该图由 AI 生成，并已将其删除和更正。
气象局的 AI 实验
此次事件并非孤例，而是 NWS 更广泛的 AI 技术测试的一部分。该机构一直在尝试将 AI 工具用于从预报建模到视觉设计的各个方面。
- 官方坚称，AI 并未被普遍用于面向公众发布的内容。
- 然而，一名前 NWS 员工指出，按照惯例，这类实验性产品通常应被明确标记出来。
人工智能取代人类的风险
当自动化工具开始取代人类专家的工作时，一系列问题随之浮现。
- 工作质量受到影响。
- 数据准确性下降。
- 公民对机构的信任受到侵蚀。
天气预报是重要的 公共安全工具，不能像普通内容一样草率生成。这次的小错误虽然无伤大雅，但它证明了 AI 同样可能犯下足以影响真实生命的、灾难性的巨大错误。
如果连细节都无法保证正确，就谈不上专业，也无法获得信任和重视。
凭空捏造城镇名称的做法无法建立信心，尤其是在专业领域，细节至关重要。这表明，技术的应用方式可能比技术本身更危险。因此，每当涉及 AI 时，我们都需要深入思考，实施这项技术的人是否真正将公众的利益放在首位。