德国一家地方法院初步裁定，谷歌需要为其 AI 概览（AI Overviews）功能生成的虚假信息承担法律责任。法院认为，生成式 AI 会“创造”出原文不存在的新内容，不同于传统搜索，因此仅靠“可能出错”的免责声明无法免责。这一判决可能对全球搜索引擎和 AI 聊天机器人行业产生深远影响，确立了技术公司需为其 AI 系统产出内容负责的新原则。
事件背景：AI 凭空捏造的指控
此案源于两家出版商发现，谷歌的 AI 概览在某些搜索中，毫无根据地将他们与欺诈和订阅骗局等商业行为联系起来。
- 受影响的公司向谷歌发出了停止侵权函，但谷歌否认了责任。
- 谷歌的辩护理由是，其自动摘要功能已警告用户“信息可能包含错误，应自行核实”。
法院的核心裁决：为何谷歌需要负责？
法院分析发现，谷歌的 AI 将其他公司的不良行为信息与原告公司的数据错误地结合起来，生成了任何原始链接中都不存在的全新关联。
法院认为，与仅显示第三方链接的传统搜索引擎不同，谷歌的 AI 工具产出了“独立的、新的、实质性的陈述”。
法院的裁决基于以下几点关键理由：
- AI 是“创造者”而非“中介”： 生成式 AI 能够基于多个来源凭空创造出不存在的说法。因此，运营这些系统的公司必须为产生的内容承担责任。
- 责任在谷歌： 纠正错误信息的责任不在第三方。谷歌是唯一有能力修改其 AI 技术的实体，因此“必须被追究责任”。
- 免责声明无效： 简单的警告并不能免除内容分发者的责任。否则，虚假陈述的受害者将几乎无法自卫，因为原始来源从未发表过这些言论，无法对其采取法律行动。
- 非言论自由： AI 生成的结果不能受到言论自由原则的保护，因为它们是公司设计、训练和管理的算法产物，而不是个人观点的表达。
判决的影响：一个可能改变行业的先例
这项裁决挑战了长期以来搜索引擎作为“信息获取工具”所享有的法律保护。它确立了一个重要的法律观点：当搜索引擎整合了能创造新内容的生成式 AI 时，其法律地位就发生了改变。
作为预防措施，法院要求谷歌删除大部分被认定为诽谤的陈述，并承担 80% 的法律费用。谷歌发言人表示，正在仔细研究这项尚未最终生效的裁决，并可能提出上诉。
这一判决可能对整个 AI 行业产生全球性的影响，包括 OpenAI、Anthropic 和 Perplexity AI 等公司。它明确指出，当 AI 系统生成了原始来源中不存在的新陈述时，设计、训练和运营该系统的公司必须为这些陈述造成的任何损害承担法律责任。