AI 文本水印是一种在不牺牲内容质量的前提下，识别由人工智能生成文本的技术。近期，Anthropic 和谷歌等公司为遵守欧盟法规开始采用此技术，但引发了广泛争议。这些负面反应主要源于对 Anthropic 公司的普遍不信任、对技术原理的误解（许多人不了解 AI 输出本就具有随机性），以及部分用户不希望自己使用 AI 的行为被发现。尽管存在一些关于作弊和误判的合理担忧，但这项技术成本极低、对用户无感，总体上是一种积极的进步。
AI 文本水印的工作原理
这项技术的核心并非在现有文本上“添加”标记，而是在文本生成过程中巧妙地嵌入一个统计学信号。
- 利用随机性： 大语言模型在生成每个词（token）时，都会计算出下一个可能词汇的概率列表，然后从中随机选择一个。水印技术通过一个秘密密钥，引导模型在众多可能性中偏向于选择某些特定的词，从而形成一种可检测的模式。
- 对质量无影响： 这种引导非常微妙，并不会改变文本的整体分布和质量。对于人类读者来说，加了水印的文本和未加水印的文本 完全无法分辨。谷歌通过对 2000 万个样本的测试证实，用户的反馈没有任何差异。
- 成本极低： 实现这一功能的边际成本 几乎为零。
- 可被重写去除： 如果用户用自己的话重写 AI 生成的内容，水印信号就会减弱或消失。你保留的 AI 原创表述越多，水印就越强。
简单的说，最终效果就是：将会有一个 API，可以告诉你某段文字是否来自 Claude。仅此而已。
为什么一项无害的技术会引发众怒？
尽管这项技术的实际影响微乎其微，但许多人对此反应激烈。这种愤怒情绪是多种因素叠加的结果，其中很多都基于误解和偏见。
“Anthropic 综合症”：非理性的反感
这是最主要的原因。许多人对 Anthropic 这家公司抱有负面看法，因此会寻找任何理由来批评它的举动。
- 双重标准： 谷歌早在两年前就已经实施了同样的技术，并提供了公开的检测器，但并未引起如此大的波澜。
- 情绪投射： 对 Anthropic 的不满是真实存在的，但这些情绪往往是非理性的。因此，人们会将这种情绪发泄到水印这类具体事件上，即便事件本身并无不妥。
正如一位评论者所说：“我认为人们对 Anthropic 感到愤怒或恐惧，其原因虽然合理，但他们自己往往也说不清楚。因此，他们会为自己对 Anthropic 所做的一切感到愤怒而寻找理由。”
误解一：不理解大语言模型的输出是随机的
许多人直觉地认为 AI 的输出是确定性的，即存在一个“唯一正确”的答案。
- 错误的直觉： 基于这种直觉，他们认为任何为了植入水印而做出的“改变”都会使输出结果变差。
- 技术事实： 实际上，模型的输出本身就是从一个概率分布中随机抽样的结果。水印技术只是利用了这种固有的随机性，而不是“篡改”了一个本应固定的结果。
误解二：不相信该方法是“零成本”的
“天下没有免费的午餐”是一种强大的思维定势。很多人难以接受一项技术可以在不产生任何负面影响的情况下增加一个功能。
这就像一个数学魔术，它确实有效。‘你可以在不产生任何影响的情况下标记它’，这个概念非常反直觉，人们身体里的每一个细胞都想说‘不’，直到某个时刻他们顿悟了，意识到数学就是数学，它真的可行。
尽管有大量证据（包括谷歌的广泛实验）表明该技术在实践中是无成本的，但怀疑论者依然坚持认为其中必有蹊跷。
误解三：原则上反对任何“外部干预”
一些人将水印技术与数字版权管理（DRM）相提并论，认为任何不以服务用户为目的的改动都是可疑的。
- 这种观点认为，我付费的服务不应该包含任何不符合我需求的功能。
- 然而，这种类比并不恰当。DRM 确实会降低产品体验，例如占用资源或限制使用。而 AI 水印 对用户体验没有负面影响。
很多人只是不想被发现
这是一个虽然很少被公开承认，但却非常真实的原因。
不要把情况想得太复杂。很多人看重能够将 AI 文章冒充为自己作品的能力，或者他们希望别人无法证明这一点。
许多人担心，一旦有了可靠的检测工具，他们在学习或工作中使用 AI 的行为就会被轻易发现。
存在一些合理的担忧吗？
当然，并非所有的担忧都毫无根据。以下是一些值得思考的潜在问题。
- 作弊者会移除水印： 技术高超的作弊者可能会开发工具来扰乱文本、移除水印，然后利用检测结果的“阴性”来证明自己的“清白”。但这需要 额外的努力和明确的作弊意图，并且其他检测方法可能依然有效。更重要的是，如果一个人为了移除水印而将全文重写，这本身就已经达成了“原创”的目标。
- 混合写作与误判： 如果一篇文章只是部分使用了 AI，会不会被错误地标记为“AI 生成”？答案是，水印信号的强度与 AI 处理的程度成正比。少量引用或辅助修改不会产生强烈的信号。此外，自动化检测的 错误率通常远低于人类的主观判断。
- 来自欧盟的强制规定： 有人担心，这是欧盟将其法规强加于全球科技公司的开端，未来可能会演变成更严格的审查。这是一个需要警惕的趋势。但就目前而言，这项技术本身是积极的。如果未来出现更具争议性的要求，科技公司可以选择仅在特定地区实施（地理围栏），而非全球推广。