一项研究发现，谷歌搜索的 AI 摘要在回答健康问题时，引用 YouTube 的频率超过了任何专业的医疗网站。这种对开放视频平台的过度依赖引发了人们对 AI 提供健康信息的可靠性的严重担忧，因为系统似乎更看重内容的 流行度而非医学权威性，这可能带来结构性的风险，并可能向用户提供具有误导性的建议。
YouTube：最主要的健康信息来源
在一项针对德国超过 50,000 条健康相关搜索的分析中，研究人员发现谷歌 AI 摘要最常引用的来源是 YouTube，一个由谷歌自己拥有的视频分享平台。
- YouTube 是被引用最多的单一域名，占所有引用的 4.43%。
- 没有任何医院、政府健康门户网站或学术机构的引用频率接近这个数字。
- 排名第二的是德国公共广播公司 NDR.de，占 3.04%。
- 第三名是医学参考网站 Msdmanuals.com，占 2.08%。
研究在德国进行，因为该国的医疗体系受到严格监管。研究人员指出，如果 AI 在如此严格的环境中仍然严重依赖非权威来源，那么这个问题很可能普遍存在于其他国家。
为什么这是一个问题？
YouTube 是一个任何人都可以上传内容的通用视频平台，这带来了巨大的风险。
这很重要，因为 YouTube 不是一个医疗出版商。它是一个通用的视频平台。任何人都可以上传内容（例如，有执照的医生、医院频道，但也包括健康网红、生活教练和完全没有医学背景的创作者）。
此前已有案例表明，谷歌 AI 摘要提供了关于肝功能测试的错误信息，专家称其为“危险的”和“令人震惊的”，这可能导致患有严重肝病的人错误地认为自己是健康的。
谷歌的回应与现实的差距
谷歌辩称，其 AI 摘要旨在呈现来自信誉良好来源的高质量内容，并指出热门的 YouTube 视频中许多都来自医院和诊所等专业医疗渠道。
然而，研究数据揭示了另一面：
- 谷歌声称最常被引用的 25 个 YouTube 视频中，96% 来自医疗频道。
- 但研究人员警告说，这些精选视频仅占 AI 摘要引用的所有 YouTube 链接的 不到 1%。
- 对于其余 99% 的 YouTube 视频来源，情况可能完全不同，其权威性无法得到保证。
风险是结构性的，而非偶然
专家认为，这一发现证明了 AI 摘要在健康领域构成的风险是系统性的，而非个别案例。
“这一研究提供了经验证据，表明 AI 摘要对健康构成的风险是 结构性的，而非偶然的。谷歌很难再辩称误导性或有害的健康输出是罕见情况。”
最终，这种设计似乎表明，AI 系统在提供健康知识时，其核心驱动力是内容的 可见性和流行度，而不是医学上的可靠性。