未来人工智能的发展应优先考虑人机协作，而非盲目追求完全自动化。当前，试图完全替代人类工作的自动化工具尚不成熟，不仅可能削弱人类的专业能力，甚至会带来严重风险。例如，一项研究发现，设计用于自动诊断的AI工具反而降低了放射科医生的准确率。成功的AI应用应作为协作工具，弥补人类与机器各自的短板，通过增强而非取代人类专家的判断力来提升整体表现。最终，我们需要在自动化与协作之间找到明智的平衡点，让人机互补，共同进步。
自动化并非总是最佳路径
将所有任务都自动化的想法看似直接，但实际上是一个错误。不完善的自动化并不是迈向完美自动化的第一步。我们目前的人工智能技术水平，还不足以完全替代人类在复杂领域中的工作。
与其强求AI完成它尚不能胜任的自动化任务，不如利用其强大的能力来构建协作的桥梁。这意味着，我们应该坚持开发能够与医生、教师、律师等专业人士合作的AI，而不是旨在让他们失业的AI。
失败的自动化案例：放射学中的AI
一个典型的自动化过度案例来自放射学领域。一项研究发现，当放射科医生使用一款名为 CheXpert 的AI诊断工具时，他们的诊断准确率反而下降了。
“尽管我们实验中的AI工具表现优于三分之二的放射科医生，但我们发现，为放射科医生提供AI预测结果，平均而言并不会带来更好的表现。”
为什么一个好的工具会产生坏的结果？
- 信任难题：医生不知道何时该相信AI的判断，何时该相信自己的专业知识。
- 缺乏透明度：该工具被设计为像放射科医生一样读取扫描结果，但它不解释其推理过程，医生无法判断其结论的可靠性。
- 设计缺陷：这个工具旨在自动化诊断任务，但它无法处理医生在诊断时依赖的病史、对话和其他辅助数据。它没有被设计用来协作。
真正的协作需要沟通。当专家意见不一时，他们会通过讨论来解决分歧。但这个AI系统无法“倾听”，留给医生的只有一个二元选择：要么接受软件的猜测，要么相信自己的判断。
两种工具：自动化与协作
工具大致可以分为两类：
- 自动化工具：作为封闭系统独立工作，无需监督。例如自动取款机、洗碗机和汽车的自动变速器。它们替代了特定功能中的人类专业知识。
- 协作工具：需要人类的参与和专业知识才能发挥作用。例如电锯、文字处理器和听诊器。它们是人类能力的力量倍增器。
AI可以同时扮演这两种角色，但在同一个任务中，它要么是自动化的，要么是协作的。糟糕的自动化工具——那些试图完全自动化但失败了的机器——也同样是糟糕的协作工具。它们不仅无法兑现承诺，还会干扰甚至破坏人类的专业能力。
不完善自动化的风险：法航447航班的悲剧
当自动化系统在关键时刻失灵，并将控制权突然交还给毫无准备的人类时，后果可能是灾难性的。2009年法航447航班的事故就是一个惨痛的教训。
飞机的自动驾驶仪因空速传感器结冰而失灵，随即自动解除，将控制权交还给飞行员。然而，飞行员在突如其来的混乱中无法正确判断情况。
“我们完全失去了对飞机的控制，我们什么都搞不明白，我们已经尝试了一切！”
悲剧在于，飞机本身是完全可以飞行的。但自动驾驶系统在设计上存在两个致命缺陷：
- 它是一个糟糕的协作工具：在常规飞行中，它让飞行员无需动手。但在最需要专家判断的紧急情况下，它却突然退出，并用大量混乱的警报淹没了机组人员。
- 飞行员的技能生疏：由于长期依赖高度可靠的自动驾驶，飞行员的手动飞行经验和应急处理能力已经退化。
成功的协作案例：平视显示器 (HUD)
与自动驾驶仪不同，驾驶舱中的平视显示器（HUD）是一个纯粹的协作工具。它将关键飞行数据投射到飞行员的视线前方，帮助他们整合信息，但从不试图代替他们驾驶飞机。
如果HUD发生故障，不会发生控制权的突然交接，因为飞行员始终掌握着控制权。研究发现，使用HUD的飞行员在着陆时发生的事故远少于使用自动着陆系统的飞机。
人类专家的价值与局限
在许多领域，完全自动化尚不可行，人类的专业知识仍然至关重要。专家判断在规则不足以解决问题时尤其关键，它融合了创造力、智慧和经验。
然而，人类专家也并非完美：
- 易犯错：即使是最好的专家也会犯错，并且表现不稳定。
- 成本高昂：获得专业知识需要大量的时间和金钱投入。
- 资源稀缺：专家资源分布不均，许多地方都面临短缺。
AI的出现为弥补这些不足提供了前所未有的机会。AI可以处理海量信息，识别出人类难以察觉的模式，为专家决策提供强大支持。
实现人机互补
AI的强大之处在于它与人类的不同。它可以阅读数千份医学期刊或数百万份法律文件，提供广阔的视野。而人类专家则能带来AI所缺乏的情境理解、伦理直觉和情感智慧。
将两者结合可以极大地提升表现：
- 在一项医疗诊断研究中，“医生+AI”组合的准确率比医生或AI单独工作高出许多。当模型遗漏线索时，临床医生通常能发现它；当临床医生出错时，模型则能填补空白。
- 谷歌开发的AMIE系统旨在辅助医生。它通过对话式问诊、解释推理过程，将医生拉入一个主动解决问题的循环中，而不是直接给出答案。
设计的核心是互补性。AI的优势（海量数据处理、快速推理）应该用来填补人类的短板。同时，设计必须为人类的独特优势（情境判断、道德推理、创造力）留出空间。
最终，我们面临的问题不是“是否”使用AI，而是“如何”使用。在自动化和协作之间取得平衡是一项持续的挑战。对于那些我们还无法完全跨越的“峡谷”，明智的选择是建造一座桥梁，而不是盲目地纵身一跃。