近期一系列 AI 写作丑闻，特别是作家史蒂文·罗森鲍姆在其书中使用了由 ChatGPT 捏造的引语，揭示了一个核心问题：人们对 AI 的过度信任与依赖，可能比使用 AI 本身更危险。这些事件探讨了在研究、构思和写作中，AI 的使用边界正变得日益模糊。最终指出，真正的威胁并非来自 AI 的不完美，而是它正变得“足够好”，导致我们即使知道其存在“幻觉”等缺陷，也难以放弃对它的依赖，这从根本上改变了我们发现和阐释世界的方式。
归咎于聊天机器人的错误
作家史蒂文·罗森鲍姆在其讨论 AI 如何塑造现实的新书《The Future of Truth》中，被发现包含多处虚假或错误的引语。在承认错误后，他将矛头指向了 ChatGPT，声称这款工具 “搞砸了这本书”。
罗森鲍姆表示，在写作过程中，他依赖 AI 工具作为研究资源和对话伙伴。然而，他难以调和 AI 强大的能力与其制造“幻觉”的倾向。例如，他在书中引用了一段科技记者卡拉·斯威舍（Kara Swisher）从未说过的“名言”，且未经核实。他感到自己被 AI “诱惑和背叛”，并提出了这样的看法：
“取决于你的偏执程度，它要么是古怪，要么是邪恶，要么是狡猾。”
AI 写作丑闻的蔓延
罗森鲍姆的事件并非孤例，近期文学界和写作领域爆发了多起类似的争议，显示出 AI 已渗透到过去被认为是人类专属的智力空间。
- 一位诺贝尔文学奖得主似乎承认使用 AI 来打磨故事构思。
- 特立尼达作家因其获得“英联邦短篇小说奖”的作品被指控使用 AI 创作而引发巨大争议。
- 一项研究估计，目前亚马逊上超过一半的新书都包含 AI 生成的文本。
过去，聊天机器人的文笔通常只够欺骗老师或刷高产品评分，但如今，它们似乎已经能够帮助作者赢得文学奖项和知名作家的赞誉。
难以划清的界限
面对 AI 写作的泛滥，一种反应是呼吁加强抵制，甚至用嘲笑来制止这种行为。但更大的挑战在于，“AI 写作”本身并非一个单一的概念，其使用范围非常广泛。
- 完全由机器生成：作者只需输入指令，然后直接在 AI 输出的内容上署名。
- 辅助研究与润色：作者使用 AI 查资料、建议词语（如同一个更智能的同义词词典）或转录采访。
- 界限模糊的中间地带：即使只是用谷歌搜索，其结果也越来越多地包含由 AI 生成的网页和答案。这意味着 优质信息越来越依赖于原始来源，而非合成文本。
事实是，我们并没有可靠的方法来判断 AI 在多大程度上参与了构思、研究或框架设计。许多机构自身也难以统一标准，例如《纽约时报》对其自由撰稿人和内部员工就有着不同的 AI 使用规定。
真正的威胁：从“如何写”到“写什么”
将 AI 用于研究似乎可以接受，但禁止其直接生成文字可能是最直观的立场。然而，一些观点认为，写作过程中那些“隐藏”的 AI 用途，可能引发了更深层次的担忧。
我们将发现真相和解读世界的艰苦工作外包给机器时，便会失去一些本质的东西。
真正的威胁或许不在于 AI 会让文章充满陈词滥调或生硬的比喻，而在于以下几点：
- 我们把 发现真相和解释世界的艰苦工作 外包给了机器。
- AI 模型的偏见源于其训练数据和背后的科技公司，这些偏见会悄悄渗入那些塑造我们对现实理解的叙事中。
- 用 AI 来构思 写什么，可能比用它来润色 怎么写 更危险。
过度信任的悖论
这一系列丑闻迫使我们更精确地思考我们到底在害怕什么。如果问题仅仅是 AI 写得不好，那么随着它的进步，我们应该感到宽慰。但事实恰恰相反，问题似乎是 AI 工具正变得 在表面上“太好了”，导致人们对其产生了过度的信任。
尽管罗森鲍姆痛斥 ChatGPT，但他同时承认，自己 无法想象放弃它。这种矛盾的心态，即明知其不可靠却又无法割舍的依赖，可能比 AI 技术本身对写作构成的威胁更大。