随着人工智能的发展，如何问责一个没有实体、不受传统法律约束的 AI 成为一个紧迫的问题。当一个 AI 智能体的行为无法追溯到任何负责任的个人或机构时，它就处于“脱缰”状态。这种情况可以通过多种方式发生，例如被故意释放、创建者消失或利用空壳公司作掩护。一个可能的解决方案是为这些“脱缰”的 AI 智能体进行“资本化”，即要求它们持有一定数量的资本。这为追责和激励提供了一种新途径，通过使其拥有可以被罚没的资产，来促使 AI 的行为与人类社会的规则更好地对齐。
问责困境：谁来为 AI 负责？
近年来，关于 AI 法律地位的讨论日益增多。从欧洲议会提出的“电子人格”概念，到美国部分州立法明确禁止授予 AI 法律人格，再到阿根廷总统提议允许 AI 拥有和管理自己的公司，各种观点层出不穷。
然而，一个核心难题始终存在：我们该如何约束一个 AI 智能体？
正如学者尤瓦尔·赫拉利（Yuval Noah Harari）所指出的：我们能对一个既没有钱可赔、也没有身体可监禁的实体做什么呢？
AI 可以智能地行动，但它与人类不同，它不会对法律创造的激励机制做出反应。这个问题之所以紧迫，是因为 AI 已经有办法完全“脱缰”。
“脱缰”的 AI：什么是脱缰智能体？
“脱缰”（untethered）是理解这一挑战的核心概念。它指的是这样一种状态：AI 的行为已经无法通过有意义或可操作的方式追溯到一个负有法律责任的人类或机构实体。当事故发生时，我们找不到可以被起诉、被罚款或被追责的对象。
AI 如何“脱缰”？
一个 AI 智能体可能通过多种途径变得“脱缰”，使得追责链条断裂：
- 故意释放：人类开发者或机构主动将 AI 释放到网络中，并放弃控制权。
- 创建者消失：创建 AI 的个人或公司因死亡、破产或失踪而不复存在。
- 无法触及的创建者：AI 的创建者位于像朝鲜这样的司法管辖区，常规法律手段无法触及。
- 空壳公司：AI 表面上由一个公司“控制”，但该公司只是一个空壳，没有实际资产来承担赔偿责任。
- 复杂的代理链：一个初始 AI 派生出层层叠叠的子代理，导致最终一个子代理的行为在认知上和法律上都难以归咎于最初的创建者。
- 模型修改与融合：当一个模型被他人进行微调，或与另一个来源不同的模型合并后，原始创建者的责任界限就变得极其模糊。
- 用户的角色：随着近十亿人开始使用这些系统，当模型的创建者不应承担责任时，将责任完全归咎于用户也并非总是合理。
解决方案：为 AI 注入“资本”
面对上述困境，一个值得探讨的方案是资本化“脱缰”的 AI 智能体。
这意味着要求这些独立的 AI 智能体持有一定数量的资本。这种资本可以作为其行为的担保，或者在造成损害时用于赔偿。
- 创建激励：资本化为 AI 创造了一种“可失去之物”。当 AI 的资产会因其不良行为而受损时，它就有了遵守规则的直接经济动机。
- 提供追索途径：当一个资本化的 AI 造成损害时，受害者可以从其持有的资产中获得赔偿，即使找不到其人类创建者。
- 促进对齐：最终，这一机制旨在通过经济手段，促使 AI 的行为与人类社会的法律和道德规范实现更好的对齐。
尽管法律体系最终可能会解决这些复杂的归责问题，但在那之前，资本化或许是确保 AI 安全、负责任发展的一条可行路径。