强生公司旗下的一款人工智能手术导航系统 TruDi，在获得 FDA 批准并集成 AI 功能后，其故障和伤害报告急剧增加。该系统被指在手术中提供错误信息，导致患者中风等严重伤害。这一问题并非个例，许多 AI 医疗设备都存在类似风险，暴露出一个核心困境：技术的快速发展已远远超过监管机构的审查能力，给医疗安全带来了严峻挑战。
从安全承诺到手术失误
强生公司的子公司 Acclarent 开发了一款名为 TruDi 的导航系统，旨在辅助医生进行精密的头部手术。最初，该工具并未集成人工智能。为了让手术更安全、更精准，公司为其加入了 AI 功能。
然而，事与愿违。AI 的加入似乎让设备变得更不可靠。
- AI 更新前: FDA 接到 7 份故障报告和 1 起伤害报告。
- AI 更新后: FDA 接到至少 100 份故障报告，其中包括 10 起伤害事件。
许多报告都描述了类似的问题：系统在手术过程中向医生提供了错误的位置信息，尤其是在靠近颈动脉和颅底等关键部位时。
患者付出的沉重代价
错误的引导信息导致了严重的医疗事故。在得克萨斯州，两起诉讼指控该设备在常规鼻窦手术中损伤了患者的动脉，导致她们中风。其中一名女性甚至需要切除部分颅骨来缓解脑部肿胀。
诉讼明确指出，是设备中的 AI 组件降低了其可靠性。然而，相关公司则辩称，FDA 的报告并不能直接证明设备存在过错。
AI 医疗设备的普遍风险
TruDi 系统的问题只是冰山一角。目前，AI 手术设备领域正在迅速扩张，而安全隐患也随之而来。
- FDA 已批准超过 1300 种支持 AI 的医疗设备。
- 一项由约翰斯·霍普金斯大学、乔治城大学和耶鲁大学联合进行的研究发现，有 60 种已获批的 AI 设备涉及 182 起召回事件，其中近一半发生在获批后的一年内。
调查还发现了其他 AI 医疗系统的问题：
- 产前超声软件: 曾错误地标记胎儿的身体结构。
- 心脏监护仪: 未能履行其核心职责，即检测心律异常。
面对这些指控，制造商的普遍回应是，没有证据表明 AI 是罪魁祸首，或者患者的伤害与 AI 硬件故障有直接关系。
监管追不上技术的发展
AI 热潮正在冲击各行各业，其带来的负面影响往往多于正面。在医疗领域，医院和监管机构都在努力跟上技术的步伐，但现实是，技术的演变速度已经远远超过了旨在约束它的规则。这使得对 AI 医疗设备的有效监管变得异常困难，患者的安全也因此面临着越来越大的不确定性。