一名 16 岁的学生因其携带的一袋多力多滋薯片被 AI 枪支检测系统误判为武器，导致武装警察紧急出动并将其逮捕。这一乌龙事件引发了人们对校园 AI 监控系统可靠性的严重质疑，并凸显了此类技术失误可能对学生造成的深刻心理创伤。尽管技术公司和校方声称系统“按预期运行”，但受害学生表示他已不敢重返校园。
一袋薯片引发的警报
在巴尔的摩肯伍德高中，16 岁的学生塔基·艾伦（Taki Allen）在足球训练后与朋友闲逛时，经历了一场突如其来的惊魂时刻。
- 突然包围： 大约八辆警车突然驶来，将他们包围。
- 持枪对峙： 警察持枪走向艾伦，命令他“趴在地上”。
- 逮捕搜查： 他被迫跪下，双手被铐在背后。警察搜查后，没有发现任何东西。
这次大规模警报的起因，仅仅是艾伦口袋里一包皱巴巴的多力多滋薯片，被 AI 监控系统误识别为一把枪。
“我当时主要在想，我会死吗？他们会杀了我吗？” 艾伦回忆道。“他们给我看了那张照片，说这看起来像一把枪，我说，‘不，那是薯片。’”
“系统按预期运行”
引发此次事件的 AI 系统来自 Omnilert 公司，于去年被巴尔的摩县公立学校引入。该技术通过扫描现有的监控录像，在它认为是武器的情况下实时向警方发出警报。
事件发生后，Omnilert 公司承认这是一次 “假阳性” 事件，但坚称系统 “按预期运行”。他们解释说，该系统的目的就是“通过快速的人工验证来优先保障安全和意识”。
巴尔的摩县公立学校在致家长的一封信中也附和了公司的说法，并表示将为受影响的学生提供心理咨询服务。
学生的创伤与校方的冷漠
尽管校方提供了咨询服务，但艾伦表示，学校里没有任何人私下联系过他。
“他们没有道歉。他们只是告诉我这是 程序，”他说。“我至少希望能有人跟我谈谈这件事。”
这次经历给艾伦留下了严重的心理阴影，他现在觉得去学校不再安全。
“如果我再吃一袋薯片或喝点什么，我感觉他们会再来一次。”
AI 监控的现实后果
这起事件再次点燃了关于 AI 监控工具可靠性及其在现实世界中，尤其是在校园环境中，所带来后果的激烈辩论。
随着越来越多的机构开始部署 AI 技术，类似的问题也层出不穷。例如：
- 美国陆军一名高级将领承认曾使用 ChatGPT 来辅助制定关键军事决策。
- 英国的年龄验证系统因无法正确识别一名男子的 脸部纹身，将其误判为面具，导致他无法访问成人内容。