美国卫生与公共服务部(HHS)正在开发一款新的人工智能工具,用于分析国家疫苗不良事件报告系统(VAERS)的数据,并据此生成关于疫苗潜在副作用的假设。由于 VAERS 数据本身未经验证且充满噪音,专家们担忧在当前反疫苗的政治环境下,这款工具可能被用来传播错误信息。他们强调,任何由 AI 生成的发现都必须经过严格的人工审查和多源数据验证,否则将带来严重的公共卫生风险。
新工具与潜在风险
美国卫生与公共服务部正在研发一款生成式 AI 工具,其主要目标是:
- 分析模式: 在庞大的 VAERS 数据库中寻找潜在的关联和模式。
- 生成假设: 提出关于疫苗可能引起的不良反应的初步猜想。
然而,这款自 2023 年底开始开发的工具引发了专家的普遍担忧。他们担心的核心在于,卫生部长 罗伯特·F·肯尼迪 可能会利用该工具生成的未经证实的假设,来推动其反疫苗议程。
关键问题:VAERS 数据的局限性
VAERS 系统是理解这一争议的关键。它是一个开放的报告平台,但也因此存在重大缺陷:
- 数据未经验证: 任何人都可以提交报告,这些报告并未经过核实。一份报告仅表示某事件在接种疫苗后发生,不代表疫苗导致了该事件。
- 缺乏对照组: 系统无法将接种疫苗后出现不良反应的人群与未接种者进行比较。
- 缺少分母: VAERS 不包含总接种人数的数据,这使得个别报告看起来比实际情况更普遍。
- 历史上的滥用: 长期以来,反疫苗活动家一直滥用 VAERS 数据来散布疫苗不安全的错误论点。
“VAERS 充其量一直是一个用于生成假设的机制。它是一个嘈杂的系统。任何人都可以报告,而且没有对照组。” —— Paul Offit,费城儿童医院疫苗教育中心主任
专家警告:必须谨慎行事
尽管利用 AI 分析数据并非新鲜事,但生成式 AI 的强大能力和 VAERS 数据的不可靠性结合在一起,构成了独特的挑战。
- 误导性结论: AI 可能会发现许多虚假的关联,如果未经严格审查就对外发布,极易误导公众。
- AI 的“幻觉”: 大型语言模型以能够产生听起来可信但完全错误的“幻觉”而闻名,这进一步增加了风险。
- 需要人工验证: 专家一致认为,任何由 AI 生成的线索都必须由了解疫苗、流行病学和统计学的专业人员进行深入的后续调查。
Jesse Goodman,乔治城大学的传染病医生表示,AI 也许能发现未知的安全问题,但前提是必须对每一个线索进行彻底调查。他强调:“我预计会出现大量的错误警报,需要大量技术娴熟的人员进行跟进。”
过去的经验
尽管存在缺陷,VAERS 系统过去也曾成功标记出真实的安全问题,例如:
- 强生新冠疫苗与一种罕见的凝血障碍之间的关联。
- mRNA 新冠疫苗与年轻男性中罕见的心肌炎病例有关。
这些案例表明,VAERS 作为一个早期预警系统有其价值,但它的作用仅限于提出问题,而不是提供答案。最终,任何发现都需要通过更严谨的科学研究来证实或证伪。