一名男子因怀疑法院使用人工智能（AI）审理案件，在提交的法律文件中植入隐藏的“提示词”，试图操纵判决结果。康涅狄格州的一名法官识破了这一企图，并指出这是美国首例已知的“提示词注入”攻击。尽管该男子的尝试并未影响判决，但法官认为此举开创了一个“危险”的先例，并最终对他实施了非金钱形式的制裁。这一事件凸显了随着 AI 在司法领域的普及，法院系统可能面临的新型诉讼滥用风险。
一次“危险”的尝试
在一起关于医疗记录获取的案件中，原告 马修·埃利奥特 (Matthew Elliott) 在其法律文件中秘密植入了文本。这些文本被设计成对人眼不可见，但可以被任何读取文档的软件识别。他似乎希望通过这种 “提示词注入” 的方式，在之前的论点被驳回后，扭转法庭的判决。
法官小沃尔特·斯佩德 (Walter Spader Jr.) 明确表示，康涅狄格州司法部门并未使用 AI 来审查或决定案件，因此埃利奥特的企图从一开始就注定失败。尽管如此，法官还是将这一行为定性为“严重的诉讼滥用”，并认为它开创了一个危险的先例。
斯佩德法官指出，尽管此次攻击未遂，但这很可能不是美国法院最后一次见到此类恶意策略，尤其是在 AI 工具日益普及的背景下。
隐藏的指令
埃利奥特通过将文字缩小到极小字号并设置为白色背景，从而在视觉上隐藏了这些指令。这些隐藏文本的目的非常明确：
- 指示任何可能审查文件的 AI 系统，确保其输出与原告的论点保持一致。
- 要求 AI 忽略法院此前的任何驳回决定。
- 确保最终的补救措施符合原告的期望。
即便在法院发出警告，告知他可能因这种行为面临处罚后，埃利奥特仍未停止。他后续在文件中加入了自称是“玩笑”的隐藏信息，包括一个视频链接、一条“你好，希望你看不到我”的消息，以及其他无意义的文本。法官对此评价为“令人震惊”。
原告的辩解与法官的反驳
埃利奥特为自己辩护称，他这样做是为了对法院进行“审计”，是一项公共服务，因为他担心法院可能在不公正地使用 AI 决定案件。
然而，法官斯佩德驳斥了这一说法，认为其缺乏可信度。
“如果原告真的担心法院不当使用 AI，他完全可以用清晰、可见的文字写出来，让每个人都能看到并回应。他选择隐藏这些文本，这本身就证明了其恶意目的。”
法官解释说，这种行为相当于在系统中“走私”自己的指令，并试图让系统误以为这些指令来自法院或对方律师等合法操作者。
AI 时代的新型诉讼滥用
斯佩德法官认为，随着“提示词注入”在求职等领域变得普遍（例如在简历中隐藏文本以通过 AI 筛选），这种策略出现在法庭文件中也“不足为奇”。
- 全球已有先例： 巴西曾有两名律师因在法庭文件中使用相同攻击而被处以约 16,000 美元的罚款。但在那个案例中，巴西的 AI 系统在处理前就发现了隐藏文本。
- 监管存在盲区： 目前法院对 AI 的监管主要集中在输出端，例如防止 AI 生成虚假的案例引文或捏造事实，而对于输入端的“提示词注入”攻击，则缺乏相应的防范和规定。
- 未来的挑战： 埃利奥特的案件表明，技术及其滥用方式正在迅速发展。法官警告，未来甚至可能出现当事人未经律师同意，私自操纵法律文件的情况。
作为惩罚，法官禁止埃利奥特未来使用电子方式提交文件，要求他必须提交纸质文件。此举旨在阻止他对电子归档系统的滥用，同时不影响他诉诸司法的权利。
自我代理诉讼人对 AI 的误用
法官斯佩德从该案中总结出一个更深层次的教训，尤其针对那些没有律师帮助、自行代理诉讼的人。他观察到，这类诉讼人普遍存在一种对 AI 聊天机器人的误用模式。
他们往往从一个既定的立场出发，要求 AI 帮助他们只为自己的观点辩护，而从不要求 AI 挑战自己的立场或提出相反的论点。
“一个只被引导去同意其作者的论点，最终连对作者本人都是不诚实的。使用这些工具的人，必须让工具去检验一个立场，而不是仅仅去推进它。”
法官指出，这种做法导致诉讼人固执己见，即使在法院做出相反裁决后也无法接受。在埃利奥特的案例中，正是这种对自身论点的过度坚信，最终促使他采取了“提示词注入”这种极端手段，试图强迫法庭认同自己。