Synth Daily

AI 垃圾信息泛滥之后,等待我们的会是这个吗?

一本名为《匕首之口》(Daggermouth) 的畅销科幻言情小说,因其巨大的成功和被指控使用人工智能(AI)写作而引发了争议。研究人员使用检测工具和文本比对,发现该书与 AI 生成内容有诸多相似之处,尽管作者坚决否认。这一事件凸显了当前出版业面临的困境:AI 辅助写作可能正变得越来越好,但由于强烈的社会抵制和作者面临的“猎巫”风险,其使用被严格保密,形成了一种不可持续的局面。

一本人气小说引发的疑问

《匕首之口》是一部自出版的电子书,在亚马逊上取得了巨大成功。它不仅在社交媒体上爆红,还登上了《今日美国》的畅销书榜,并被知名出版商西蒙与舒斯特以七位数价格签下。

然而,这部作品也出现在一个由学者编制的列表中,该列表旨在识别包含大量 AI 文本的亚马逊电子书。这一发现引出了一个尴尬的问题:如果一本广受欢迎的小说都可能是由聊天机器人写的,那是否意味着 AI 小说已经变得……很不错了?

寻找 AI 痕迹的证据

为了验证怀疑,研究人员采取了多种方法来分析《匕首之口》及其他数万本 Kindle 电子书。

  • AI 检测工具: 研究人员使用名为 Pangram 的 AI 检测工具分析了超过 14,000 本书。结果显示,五分之一的书被判定为超过 25% 由 AI 撰写,而《匕首之口》的比例高达 60%
  • “罕见表达”的重合: 研究团队扫描了文本中特定的词组,这些词组在其他可疑的 AI 书籍中反复出现,但在人类写作中几乎从未见过。

例如,《匕首之口》中一处露骨的场景描述:“他们瘫倒在一起,汗水浸湿的四肢和狂跳的心脏交织。” 这一模一样的句子也出现在另一位作者的另一本自出版电子书中。

另一句出现在《匕首之口》中的话,“她的脉搏在耳边轰鸣,淹没了人群的低语”,同样出现在了另一位作者的书中,而这位作者在过去三年里在亚马逊上出版了超过 400 种不同的作品。

作者否认与专家质疑

面对指控,小说作者 H. M. Wolfe 及其出版商都坚决否认。

Wolfe 在一份声明中称:“声称我使用生成式 AI 创作《匕首之口》的说法完全不实。这本书是我自己写的。我对生成式 AI 及其对创作者社区的影响一直持反对态度。”

然而,研究 AI 写作的计算机科学教授 Tuhin Chakrabarty 认为,《匕首之口》中存在“太多明显的迹象”。另一位未参与研究的 AI 语言检测专家 Mohit Iyyer 也表示,即使考虑到检测工具的误差,一本完全由人类创作的书被判定为 60% 由 AI 撰写,这在统计上是“几乎不可能的”。

AI 写作的两种极端

研究发现,在亚马逊的电子书目录中,有“大量”AI 辅助创作的书籍占到了 20%,贡献了 12% 的销售额。然而,这些书中存在明显的质量差异。

  • 低劣的复制品: 大多数 AI 生成的书籍被认为是粗制滥造的“垃圾”,通过模仿热门书籍、购买虚假好评和利用点击农场来骗取收入。一位书评人表示,从未听说过像 Nicole Fox 这样高产(拥有 418 部作品)的作者在读者圈中被讨论。
  • 高质量的辅助创作: 像《匕首之口》这样的作品,如果确实使用了 AI,也需要作者投入“巨大的努力”才能使其变得引人入胜。这可能意味着作者将 AI 作为一种加速或改进写作的工具,而非完全依赖。

作者面临的“猎巫”困境

目前,承认使用 AI 写作的作者面临着巨大的社会压力和风险。

一位公开承认使用 AI 每年出版数百本书的作者 Coral Hart 透露,在相关报道后,她收到了死亡威胁和数千条一星差评。她表示:“在他们停止霸凌、猎巫和驱逐之前,我不认为作者会保持透明。”

这种强烈的抵制情绪可以理解,因为它涉及到作品原创性的核心问题。但问题在于,目前没有任何方法可以百分之百地确定一本书是否使用了 AI。这种状况将道德负担完全压在了个体作者身上,而不是制定规则的平台和公司。

最终,这导致了一种不可持续的状态:AI 写作可能有利可图,但前提是必须严格保密。随着技术的进步,这个问题迟早需要一个明确的答案。