Anthropic 计划为其 Claude AI 生成的所有文本加入“水印”,通过** subtly 改变词语选择来留下可供追踪的统计学痕迹。此举旨在遵守欧盟法规,但实际上是对写作本身的亵渎。这种方法以牺牲文本的精确性、清晰度和质量为代价**,仅仅为了植入一个只有 Anthropic 自己才能检测的“指纹”。这不仅无法有效阻止恶意使用者,反而会污染所有内容,让用户无法再信任 AI 会选择最优的词语,最终创造出一个充满猜疑的、对创作者极不友好的环境。
一场误导性的宣告
Anthropic 最初宣布将为 Claude 添加水印时,并未提供任何关于其工作原理的描述,这本身就是一种侮辱。他们最初的声明声称:
当一个受支持的 Claude 模型生成文本时,它会直接在文本中编织一个难以察觉的水印。你不会看到它,它也不会改变 Claude 回复的含义、质量或可读性。
这种说法是误导性的。它让人误以为水印技术不会影响内容本身,比如通过嵌入不可见的字符。然而,事实并非如此。这种技术的本质恰恰是通过牺牲语义的精确性来污染文本,这与他们“不改变质量”的承诺背道而驰。一个优秀的工具不应该为了任何外部目的而牺牲哪怕一丝一毫的清晰度或品质。
水印的真实原理
这种技术被称为“语义水印”,其工作原理类似于一种统计学上的诡计。
- “红绿名单”机制: 在生成每个词(或 token)时,模型会根据一个秘密密钥,动态地将备选词汇分为“绿色名单”和“红色名单”。
- 概率扭曲: 模型会被“引导”,使其更有可能从绿色名单中选择词语,而不是红色名单。这并不意味着它绝不会选择红名单的词,只是概率被改变了。
- 统计检测: 当文本足够长时,一个拥有秘密密钥的人(也就是 Anthropic 自己)可以通过分析文本中“绿色”词语出现的频率是否异常高,来判断这段文本是否由 Claude 生成。
- 不可验证性: 因为这一切都依赖于秘密密钥,所以只有 Anthropic 能够执行检测。用户和其他公司无法验证,也无法检测其他公司的水印。
对技术前提的根本性反对
这种做法的核心问题在于它建立在一个错误的假设上:即近义词可以随意替换而无损表达。
任何一个写作者都知道,每一个词语的选择都至关重要。“He leaped at the chance” 和 “He jumped at the opportunity” 传达的情感和画面感是不同的。
我们使用 AI 工具,是希望它能在速度和成本的限制内,为我们选择最精准、最优美的词语。我们不希望有任何与我们自身需求无关的因素干预这个过程。
“任何非用户需求因素影响为我生成的文本,这种想法本身就是一种公然的冒犯。”
Anthropic 的做法意味着,即使用户只是在与 Claude 进行一次私人对话,Claude 也会为了打上水印而故意选择可能并非最佳的词语。这等于为了一个对用户无益的目的,故意降低了产品的质量。
荒谬的欧盟法规与脆弱的解决方案
Anthropic 声称此举是为了遵守欧盟的法规,但这套法规本身就充满问题,而 Anthropic 的全球性实施策略更是糟糕。
- 法规的荒谬性: 强制要求标记 AI 内容,但实际上,用心不良者总能轻易规避。
- 规避的简易性: 恶意用户只需使用另一个 AI 工具进行转述或改写,就能轻松抹去这种“语义水印”。
- 对诚实用户的惩罚: 最终,这种机制只会给普通用户带来麻烦,让他们在使用辅助工具时也可能被错误地标记。
正如开发者 James Padolsey 所说:
“它可能会让普通和辅助性用户受到怀疑,同时对蓄意欺骗者却最为软弱无力。”
谷歌的 SynthID:同样的“原罪”
谷歌在其 Gemini 模型中也使用了名为 SynthID 的类似技术,并同样声称其“不会影响质量”且“人眼无法察觉”。
这种说法经不起推敲。当模型在“香蕉”和“菠萝”之间做选择时,它本应基于哪个词更符合语境和语气。但如果因为“香蕉”在“绿色名单”上而被优先选择,那么文本的质量就已经被损害了。
谷歌的研究声称,添加水印后用户的“点赞/点踩”率没有显著变化。但这根本不能证明质量没有下降。用户不太可能因为一个词的选择不完美就去点“踩”,但这并不意味着他们没有察觉到文本的平庸。
这让用户陷入一种困境:我们无法判断 AI 的选择是基于最佳判断,还是仅仅为了满足水印算法。这动摇了我们对整个工具的信任。
拆解 Anthropic 的苍白辩护
在最新的解释中,Anthropic 试图为自己的行为辩护,但其理由漏洞百出。
- 辩护 1: “在‘寒冷’后面跟‘阴沉’还是‘灰色’,对读者来说差别不大。”
- 反驳: 这恰恰是问题的核心。对于优秀的写作者和认真的读者来说,差别巨大。
- 辩护 2: “我们重视代码的精确性,但对散文则不然。”
- 反驳: 这暴露了他们对写作这门艺术的蔑视。他们甚至在辩护中引用奥威尔的《1984》,这本身就是一种讽刺——在一个讨论词语被操纵的语境下,引用一位毕生强调语言精确性的作家。
- 辩护 3: “我们暂时没有办法将其限定在特定区域。”
- 反驳: 对于一家即将以天价估值上市的科技巨头来说,这种说法要么是技术无能的体现,要么是在撒谎。
秘密是毒药
这一切问题的根源在于秘密。当只有 AI 公司掌握着生成和检测水印的密钥时,所有用户都成了潜在的怀疑对象。
- 我们不知道自己引用的内容是否已被“污染”。
- 我们用 AI 辅助校对自己的文章,也可能被错误地标记为“AI 生成”。
- 我们无法验证这些公司的说法,只能被动接受一个质量更差、更不可信的工具。
这种做法不是透明,而是制造猜疑和混乱。它就像一种毒药,悄无声息地侵蚀着我们与技术之间的信任。