一家德国法院裁定，谷歌必须为其 AI 概览（AI Overviews）功能生成的错误信息承担直接责任。法院认为，该功能并非简单的搜索结果罗列，而是谷歌自主生成的内容。此案源于该 AI 错误地诽谤了两家出版商，法院因此发布了临时禁令，这标志着平台不能再以“搜索引擎”为由对 AI 生成的虚假信息免责。
法院裁决：AI 不是普通搜索
德国法院明确指出，AI 概览与传统搜索引擎有本质区别。因此，保护搜索引擎运营商的法律免责条款在此案中并不适用。
- 谷歌是直接侵权方： 法院认为 AI 概览是谷歌的 “自主内容”，而非简单的第三方内容列表。
- AI 重构信息： AI 会用 “自己的措辞和结构” 来改写和整合信息，这构成了内容创作行为。
- 创造新内容： AI 甚至可能生成搜索结果中完全不存在的 “独立的、新的实质性陈述”。
搜索引擎的作用是让第三方内容更容易被找到。而 AI 概览通过评估和组合第三方网站内容来创造新内容，因此运营者需要承担责任。
案件起因：AI 诽谤出版商
此案始于谷歌的 AI 概览算法传播了关于两家慕尼黑出版商的虚假信息。
- AI 将这两家公司与 诈骗、订阅陷阱和可疑商业行为 错误地联系在一起。
- 法院发现，AI 混淆了完全不同公司的信息，建立了现实中和链接来源中都不存在的关联。
- 在出版商发出停止侵权函后，谷歌未能做出适当回应，最终导致法院发布 临时禁令，禁止其继续传播相关虚假信息。
谷歌的辩解与用户现实
在听证会上，谷歌辩称用户可以自行核实信息，但现实情况并非如此。
- 谷歌的观点： 用户可以点击链接来源来验证 AI 摘要的准确性，并且用户知道 “不应盲目相信 AI 生成的信息”。
- 残酷的现实： 研究表明，在阅读 AI 概览后，只有大约 1% 的用户会点击来源链接 进行核实。
AI 概览的准确性问题有多严重？
事实错误并非个例，而是一个规模巨大的问题。
- 错误率： 一项研究指出，AI 概览大约有 9% 的时间会出错。
- 巨大的影响规模： 谷歌称每月有 20 亿人与 AI 概览互动。简单的计算表明，这可能意味着每年产生超过 20 亿个错误查询结果。
- 溯源问题： 更糟糕的是，另一项分析发现，即便是正确的答案，也有 56% 无法通过其链接的来源得到证实。这意味着用户几乎无法检查 AI 的工作是否可靠。