警方越来越多地使用人工智能（AI）工具（如 Axon 公司的 Draft One）来撰写报告，但这引发了对透明度和问责制的严重担忧。这类系统被设计为自动删除初稿，导致无法区分 AI 生成的内容和警员的实际输入，从而增加了司法不公的风险。作为回应，一些地区已禁止使用此类 AI 报告，同时，犹他州和加利福尼亚州已通过立法，强制要求对 AI 生成的内容进行标注并保留原始草稿，预示着未来将有更多州加强对此类技术的监管。
AI 报告的风险：缺乏透明度与责任
当前，由 AI 撰写的警察报告技术尚不成熟、过程不透明，尤其是在刑事司法系统中，这类报告可能直接影响一个人的自由，因此做法极不负责任。最大的问题源于 Axon 公司的 Draft One 工具，其设计本身就在刻意规避透明度。
- 工作流程问题：警员将执法记录仪的音频上传后，系统会生成一份报告初稿。警员编辑后导出最终版本。
- 关键证据被销毁：在导出最终报告时，系统会自动删除初稿。这意味着任何能区分 AI 与警员笔迹的证据都消失了。
- 推卸责任的漏洞：如果警员在法庭上的证词与报告相矛盾，他们可以辩称“那是 AI 写的”。由于初稿已被删除，这种说法将难以被反驳。
华盛顿州金县检察官办公室已经明确禁止警方使用 AI 撰写报告。其备忘录指出：
我们不惧怕技术进步，但我们对市场上现有的一些产品确实存在合理担忧……我们决定不接受任何在 AI 协助下完成的警察陈述。
Axon 的产品经理曾公开承认，删除初稿是故意设计的，目的是为了“避免给我们的客户和检察官办公室制造更多的披露麻烦”。这种设计使得公众和监督机构几乎无法审计这些报告的真实性。
法律的反击：州级立法开始介入
针对这些问题，一些州已经开始采取行动，通过立法来约束 AI 警察报告的使用。
犹他州（SB 180 法案）：
- 强制要求在报告中声明其内容部分或全部由 AI 生成。
- 要求警员必须核实报告的准确性并签字确认。
加利福尼亚州（SB 524 法案）：
- 同样要求披露 AI 的使用情况。
- 更进一步，该法案禁止供应商出售或分享警察机构提供给 AI 的信息。
- 最关键的是，法案要求执法部门必须保留报告的初稿。这使得法官、辩护律师和审计人员可以清楚地看到报告的哪些部分是警员写的，哪些是计算机生成的。
预计在未来一年，将有更多州效仿加利福尼亚和犹他州，对警方使用 AI 撰写报告进行更严格的监管，甚至可能出台禁令。