在一次调查揭露其生成式 AI 健康摘要功能提供错误且具有误导性的信息后，谷歌已下架部分相关内容。该功能因未能结合患者个人情况（如年龄和性别）解读肝功能测试数据，并向胰腺癌患者提供有害的饮食建议而受到批评。尽管谷歌移除了部分查询结果，但其他潜在的危险内容仍然存在，引发了对其未能充分保障用户安全的担忧。
严重的安全漏洞被曝光
《卫报》的一项调查发现，谷歌搜索顶部的 AI 摘要功能正在将人们置于风险之中，其提供的健康信息存在严重错误。
- AI 摘要可能导致重症患者 错误地认为自己身体健康，从而忽视必要的医疗护理。
- 专家指出，这些由 AI 生成的答案是 危险的，因为它们缺乏关键的医学背景信息。
具体的错误建议
调查报告重点指出了两个极其危险的错误案例。
肝功能测试的误读
当用户查询肝功能测试的正常值范围时，AI 直接展示了包含特定酶（如 ALT、AST）的原始数据表，但这带来了严重问题：
- 提供的数字 缺乏必要的背景信息，例如患者的年龄、性别和族裔，而这些因素都会影响正常值的范围。
- AI 定义的“正常”标准与实际医学标准存在差异。
- 这可能导致患有严重肝病的患者误以为自己的检测结果正常，从而 错过关键的后续治疗。
对癌症患者的致命建议
对于胰腺癌，AI 提出了一个与标准医疗指南完全相反的建议：
- AI 建议患者 避免高脂饮食。
- 然而，医学上的标准做法是鼓励患者保持体重，这种错误的建议 可能直接危及患者的健康。
专家警告：错误的 reassurance 极其有害
英国肝脏信托基金会的专家 Vanessa Hebditch 强调，理解肝功能测试远比比较一组数字复杂得多。
这种错误的 reassurance 可能非常有害。
她进一步解释说，即使一个人的检测结果显示正常，他们仍可能患有严重的肝脏疾病并需要进一步的医疗护理，而 AI 摘要完全忽略了这一关键点。
谷歌的回应与持续的风险
尽管发现了这些问题，谷歌的应对措施却非常有限。
- 已采取的行动： 谷歌仅禁用了与肝功能测试相关的 部分特定查询 的 AI 摘要。
- 未解决的问题： 其他潜在的有害答案，例如关于胰腺癌的错误建议，仍然可以被用户访问。
谷歌为自己辩护称，公司非常重视健康主题的质量，其 AI 摘要“绝大多数提供了准确信息”。一位发言人表示，公司内部的临床医生团队审查后认为，许多信息“并非不准确”，并且得到了高质量网站的支持。然而，这种有限的回应招致了批评，认为谷歌并未充分解决其 AI 工具带来的安全隐患。