Synth Daily

HHS 正在打造一款 AI 工具,用于生成疫苗伤害索赔的假设

美国卫生与公共服务部(HHS)正在开发一款新的人工智能工具,用于分析国家疫苗不良事件报告系统(VAERS)的数据,并据此生成关于疫苗潜在副作用的假设。由于 VAERS 数据本身未经验证且充满噪音,专家们担忧在当前反疫苗的政治环境下,这款工具可能被用来传播错误信息。他们强调,任何由 AI 生成的发现都必须经过严格的人工审查和多源数据验证,否则将带来严重的公共卫生风险。

新工具与潜在风险

美国卫生与公共服务部正在研发一款生成式 AI 工具,其主要目标是:

  • 分析模式: 在庞大的 VAERS 数据库中寻找潜在的关联和模式。
  • 生成假设: 提出关于疫苗可能引起的不良反应的初步猜想。

然而,这款自 2023 年底开始开发的工具引发了专家的普遍担忧。他们担心的核心在于,卫生部长 罗伯特·F·肯尼迪 可能会利用该工具生成的未经证实的假设,来推动其反疫苗议程。

关键问题:VAERS 数据的局限性

VAERS 系统是理解这一争议的关键。它是一个开放的报告平台,但也因此存在重大缺陷:

  • 数据未经验证: 任何人都可以提交报告,这些报告并未经过核实。一份报告仅表示某事件在接种疫苗后发生,不代表疫苗导致了该事件
  • 缺乏对照组: 系统无法将接种疫苗后出现不良反应的人群与未接种者进行比较。
  • 缺少分母: VAERS 不包含总接种人数的数据,这使得个别报告看起来比实际情况更普遍。
  • 历史上的滥用: 长期以来,反疫苗活动家一直滥用 VAERS 数据来散布疫苗不安全的错误论点。

“VAERS 充其量一直是一个用于生成假设的机制。它是一个嘈杂的系统。任何人都可以报告,而且没有对照组。” —— Paul Offit,费城儿童医院疫苗教育中心主任

专家警告:必须谨慎行事

尽管利用 AI 分析数据并非新鲜事,但生成式 AI 的强大能力和 VAERS 数据的不可靠性结合在一起,构成了独特的挑战。

  • 误导性结论: AI 可能会发现许多虚假的关联,如果未经严格审查就对外发布,极易误导公众。
  • AI 的“幻觉”: 大型语言模型以能够产生听起来可信但完全错误的“幻觉”而闻名,这进一步增加了风险。
  • 需要人工验证: 专家一致认为,任何由 AI 生成的线索都必须由了解疫苗、流行病学和统计学的专业人员进行深入的后续调查。

Jesse Goodman,乔治城大学的传染病医生表示,AI 也许能发现未知的安全问题,但前提是必须对每一个线索进行彻底调查。他强调:“我预计会出现大量的错误警报,需要大量技术娴熟的人员进行跟进。”

过去的经验

尽管存在缺陷,VAERS 系统过去也曾成功标记出真实的安全问题,例如:

  • 强生新冠疫苗与一种罕见的凝血障碍之间的关联。
  • mRNA 新冠疫苗与年轻男性中罕见的心肌炎病例有关。

这些案例表明,VAERS 作为一个早期预警系统有其价值,但它的作用仅限于提出问题,而不是提供答案。最终,任何发现都需要通过更严谨的科学研究来证实或证伪。