人工智能的自动化效应，如同图像软件中的“泛洪填充”，其威力主要局限于数字领域。这个领域被一个“魔法圈”所限定，即纯粹的“符号输入，符号输出”的计算世界。然而，物理世界的复杂性与不确定性，如打印机卡纸或物理摩擦，构成了AI难以逾越的界限。尽管技术在进步，但现实世界的操作对机器人而言仍是巨大挑战，因此自动化更多是围绕机器的能力重新设计任务和环境，而非简单的替代。我们应谨慎对待AI对现实世界的介入，并反思数字时代对人类生活的真正影响。
AI自动化的“泛洪填充”
在图像编辑软件中，“油漆桶”工具的功能被称为“泛洪填充”：颜色从光标处扩散，直到遇到一条封闭的线条。现在，我们可以将经济体或整个世界想象成一张图片，将人工智能自动化想象成一种颜色。问题在于：这场泛滥的洪水会蔓延多远？
很多人认为，随着超级智能的计算机带来性能超强的机器人，这场洪水将淹没一切。但这种看法并不正确。现实中存在一条无法逾越的界线，一个防火墙，一个“魔法圈”。
计算的魔法圈
“魔法圈”是一个源自游戏研究的术语，指一个事先划定的、行动受限的特殊空间。例如，在下棋时，你不会直接伸手推倒对方的王，因为游戏的核心在于遵守规则。
人工智能的魔法圈与计算的魔法圈完全相同，那就是：符号输入，符号输出。
- 计算系统具有极高的灵活性，但其领域却非常狭窄。
- 在它的魔法圈内，任何东西都可以变成其他东西，但前提是它必须先进入这个圈子。
- 你无法将一片真实的树叶夹在浏览器标签页之间，这暴露了数字世界的局限性，而非树叶的问题。
与物理世界的丰富性和复杂性相比，数字世界尽管精妙，但其范围大约就像通过一根吸管看世界。
物理世界的坚固壁垒
打印机是连接数字世界与物理世界的桥梁，也因此成为计算机用户永恒的痛点。在这里，一串符号流与灰尘、湿气、摩擦力和障碍物发生碰撞。
一个令人愉快的画面是：如果AI自动化确实无法淹没物理世界，那将是因为小小的卡纸挡住了它的去路。
工程师们几十年来一直在努力完善打印机，但它仍然会卡纸。这不是打印机的错，而是因为它跨越了复杂性的巨大鸿沟。数字世界无论如何努力，都无法匹敌物理世界的复杂性。
一个跨越虚实的例子
我曾开发一个项目来追踪通过平信邮寄的信件。这个过程不仅涉及编写代码和对接API，还包括了大量物理操作：
- 设计并打印带有特殊条形码的定制标签。
- 邮寄真实的物理信件。
- 观察扫描数据流入测试数据库。
- 亲手接收这些信件，并根据结果调整之前的步骤。
AI可以帮助编写代码，但无法自主处理后续的打印、折叠、粘贴和邮寄等物理任务。当AI代理进入物理世界时，它们在数字空间拥有的超能力会变成在我们世界中的巨大障碍。行动会变得笨拙、昂贵，反馈缓慢，并且容易受阻。
自动化意味着重新设计，而非替代
真正的自动化并非简单地让机器模仿人类的动作，而是围绕机器的能力和局限性重新设计整个任务。
- 缝纫机： 许多手工缝纫的针法是缝纫机无法完成的。反之，缝纫机标志性的“锁式线迹”也是专为机器发明的，人类从不这样缝纫。
- 橄榄收割机： 现代大规模橄榄油生产依赖于跨行式收割机，它要求橄榄树以类似树篱的方式密集种植。这导致只有少数几个能适应这种种植方式的橄榄品种被大量种植，从而改变了全球橄榄油的风味。
自动化从来不是简单地接管一项已有的任务。它总是在协商中进行——发明一种新的、拉链式的关系。火车需要铁轨，汽车需要平坦的道路。
至今为止，世界上没有任何一台机器能让一根线自己穿过自己。当你看到一本用科普特装订法缝制的书时，你可以想象它在呐喊：“我是由人手制作的！”
现实意义与结论
这个框架有一些实际的启示：
- 如果你的工作完全处于“符号输入，符号输出”的魔法圈内，那么你的世界正在并且将要更快地改变。你需要思考如何将你的工作与物理世界结合起来。
- 一个被AI“泛洪填充”的互联网将充满自动化的对手。因此，让更多系统和设备保持离线将是明智之举。
- 在数字和物理世界之间建立更丰富的桥梁可能是一个糟糕的主意。允许自主程序在没有人类审查的情况下雇佣人类在物理世界中完成任务是完全不负责任的。
世界可以在没有互联网的情况下运行，但互联网不能在没有世界的情况下运行。除了底层的物理现实，一切都是魔法圈。
软件实际上无法吞噬这个世界。软件可以反映它，侵占它，但最主要的是，它分散我们对现实世界的注意力。真实的物理世界是无法被消化的。
这或许不是什么安慰。AI的泛洪填充确实可能吞噬数字魔法圈内的一切。但历史将如何看待人类在互联网这个“仙境”中度过的几十年？也许人们会说：哇……那段日子真奇怪！