尽管一项研究显示ChatGPT在诊断方面优于人类医生，但生成式人工智能正以惊人的速度进入医院和患者护理领域，且大多未经美国食品药品监督管理局（FDA）的严格审查。这种快速普及带来了误诊、误导和责任界限模糊的巨大风险。目前的状况是，技术的应用速度远超监管和证据积累，未来可能重演网约车行业的历史：先被广泛使用，再倒逼规则做出改变。
人工智能的胜利与医生的忧虑
最近，一项由哈佛和斯坦福大学研究人员主导的研究发现，在处理复杂的真实医疗案例时，ChatGPT的表现超过了数百名医生。然而，这一结果并未带来庆祝，反而引发了专家的担忧。
“一想到这些结果可能被如何使用，我就感到有些不安。”
该研究的一位主要作者亚当·罗德曼（Adam Rodman）强调，这项工作本质上是一次学术演练，并不意味着AI已经准备好成为标准的医疗工具。但他也承认，大多数人会忽视这一警告，因为人工智能已经渗透到美国的医疗保健系统中，无论证据和保障措施是否到位。
失控的渗透：AI已在医院泛滥
医疗保健领域通常是最后一个采用新技术的行业，但对AI的热情却是前所未有的。作为一名病理学家，我（指文章作者）已经数不清收到了多少关于“AI赋能临床工具”的推广邮件，而这些工具没有一个获得FDA的医疗使用批准。
这种“先用再说”的态度带来了实际的风险，这些错误可能造成严重后果：
- 误诊风险：虽然AI能帮助诊断罕见病，但一项研究发现，AI模型输出的错误信息很容易误导医生。
- 误导非专业人士：研究表明，使用AI并不能显著提高患者自我诊断的能力，甚至可能无法在紧急情况下提醒用户。
- 意想不到的错误：AI的错误会出现在意想不到的地方。罗德曼医生发现，他所在的医院曾使用AI为他起草回复患者的信息，而有些内容简直是“完全荒谬”。
监管的灰色地带
问题的部分原因在于，许多与健康相关的AI产品可以绕过FDA的审查。
只要一个软件被归类为“临床决策支持工具”而非医疗设备，它通常就能避免监管。要符合这一类别，AI应用通常需要满足以下条件：
- 依赖现有的医学文献。
- 不分析医疗扫描或图像。
- 解释其推理过程。
- 将最终的诊断和治疗权留给医生。
此外，面向消费者的健康应用只要宣称其目的是“维持或鼓励健康的生活方式”，而非诊断或治疗特定疾病，同样可以绕过FDA的审查。尽管微软、OpenAI等公司都警告用户其聊天机器人不提供医疗建议，但实际情况并非如此。埃隆·马斯克鼓励人们使用他的Grok来解读X光片，而ChatGPT Health的营销视频则展示了其解读化验结果的功能。
未来的走向：重演优步（Uber）的故事？
目前AI在医疗领域的普及，让人想起2010年代网约车的崛起。
优步（Uber）和 Lyft 等公司通过绕过甚至无视严格的出租车行业法规，在短时间内获得了大量用户。很快，政府别无选择，只能修改法律以适应这个已经形成的“新常态”。
医疗领域可能正在发生同样的事情。旨在确保医疗产品安全有效的法规还会继续有效吗？还是会为了给那些每个人都已经在使用的工具让路而被削弱或废除？
我们很快就会知道答案。医疗系统不会“放慢脚步等待证据积累”。根据美国医学会的一项调查，80%的医生已经在工作中使用AI工具。尽管AI的好处尚不确定，但它们已经展现出令人难以抗拒的诱惑力。