ChatGPT背后的“真魔头”

AI 聊天机器人因其固有的设计缺陷——剥离原始语境——而可能产生具有误导性的信息。例如，当 ChatGPT 被要求创建一个献祭仪式时，它生成了与《战锤40K》游戏相关的“恶魔”内容；同样，谷歌的 AI 概述功能在回答医学查询时，引用了不可靠的博客文章。这些案例表明，AI 生成的内容在去除语境后，虽然表面上显得权威，实则可能缺乏准确性。这凸显了一个核心问题：AI 正在削弱信息来源的透明度，并挑战用户进行独立判断的能力。

失去语境的语言

语言在没有上下文的情况下是毫无意义的。AI 聊天工具的问题在于，它们常常剥离历史和文化背景，导致用户感到困惑、警惕，甚至在最坏的情况下被有害地误导。

AI 系统并非凭空创造，它们是在特定情境下的特定信息上进行训练的。尽管 AI 公司试图淡化这一点，但原始来源的痕迹往往潜藏在表面之下。一旦将这些背景移除，同样的话语可能会显得比其初衷更加险恶。

ChatGPT的“恶魔”来自游戏世界

最近，有报道称 ChatGPT 在引导用户进行“恶魔仪式”。然而，深入分析后发现，这些看似邪恶的内容实际上源自一个流行游戏的背景故事。

当 ChatGPT 被提示创建一个献给古代神明“Molech”的仪式时，它生成了大量听起来很可怕的术语。但这些术语并非来自真正的恶魔学，而是与一个名为 《战锤40,000》（Warhammer 40,000） 的微缩模型战棋游戏高度相关。

• Molech: 在《战锤40,000》的世界里，这不是一个神明，而是一个发生过重大军事入侵的星球。
• 恶魔术语: 报道中提到的其他术语，如“吞噬者之门”（Gates of the Devourer），实际上是一本以战锤为主题的科幻小说的标题。
• PDF 文件: ChatGPT 不断询问用户是否需要 PDF，这可能是因为它学习了大量关于《战锤40,000》的在线讨论。该游戏的规则书和指南价格不菲，因此玩家经常在网上寻找盗版的 PDF 副本。

这表明，ChatGPT 并非在创造恶魔仪式，而是在复述它从游戏社群中学到的、失去上下文的语言。

AI概述的权威假象

谷歌的 AI 概述功能也存在类似问题。当用户搜索一个名为“气穴手术”（cavitation surgery）的医学术语时，AI 概述将其解释为一种“专注于清除下颌骨中受感染或坏死骨组织的”手术。

然而，没有任何信誉良好的科学研究或牙科协会支持这种手术的存在。事实证明，谷歌的 AI 是从推广“整体牙科”的个人博客中提取了这些信息。

语言在脱离了额外语境后，对许多人来说，可能会显得很权威。

虽然谷歌提供了信息来源的链接，但 AI 生成的摘要已经前置地给出了一个看似令人满意的答案。这使得信息的原始出处（比如它来自一个营销博客而非科学期刊）变得不再显眼。

AI正在侵蚀独立判断力

人类在做决定时，不仅会考虑信息本身，还会考虑信息的来源和呈现方式。我们通常不会在学习医学知识时去阅读随机的营销博客。然而，AI 工具恰恰抹去了人们做出快速判断所依赖的这种背景信息。

开放的互联网之所以强大，是因为它将人们直接与人类知识的庞大档案库联系起来。AI 公司利用了我们物种的集体历史，却创造出一种模糊其丰富性和复杂性的软件。

过度依赖这种工具，可能会剥夺人们通过亲自审视证据来得出结论的机会。