美国陆军在大力推广人工智能（AI）工具后不久，便意外地耗尽了其全年的 AI “令牌”（Token）配额，导致不得不重新对使用进行限制。这一事件揭示了生成式 AI 在大规模应用下面临的成本和可持续性挑战。尽管高层在推动 AI 应用，但一些基层员工反映，这些工具在实际工作中并不可靠，其真实效用和盲目推广的后果值得深思。
AI 预算告急：提前耗尽的全年额度
美国国防部刚刚宣称其近半数员工已在工作中使用 AI，但陆军的开发司令部（DEVCOM）很快就收到了内部邮件，警告他们正在快速消耗“令牌”，必须限制使用。
邮件中提到，尽管陆军首席信息官（CIO）曾宣布提供无限量的令牌，但到六月中旬，整个令牌池就已经完全耗尽，不得不重新设置使用上限。虽然陆军已决定续费以维持当前的使用水平，但邮件也指出，尚不清楚在 10 月 1 日之后是否会再次续订。
一名陆军员工匿名表示：“显然，整个陆军把仅一项服务的全年令牌都用光了。”
什么是 Ask Sage？
陆军使用的 AI 工具名为 Ask Sage，这是一个多模态生成式 AI 平台，用户可以在上面运行多种大型语言模型（LLM）。
- 使用的模型包括： 谷歌的 Gemini、Meta 的 Llama 和 OpenAI 的 ChatGPT。
- 主要用途： 该平台被用于处理“受控非机密信息”，例如帮助“重新分类人员描述”，即定义和调整岗位职责、经验及背景要求。
- 推广力度： 陆军曾积极鼓励员工使用 AI。员工每月至少有 20 万令牌的配额，用完后会自动增加。不常使用的员工甚至会收到邮件，鼓励他们多用。
为了使用 Ask Sage，陆军订购了一个“企业包”，年度配额为 1 亿个令牌。根据资料，对于这个工具来说，一个令牌大约相当于 3.7 个字符。
不只是军队：科技公司也面临同样问题
陆军遇到的情况并非个例。许多积极拥抱生成式 AI 的组织都因其高昂的消耗而重新思考无限使用的策略。
- Meta： 在鼓励员工“最大化使用令牌”（tokenmaxx）后，悄悄撤下了追踪使用量的排行榜，并开始试图控制用量。
- Uber： 据报道，该公司的工程师仅用四个月就耗尽了全公司一年的生成式 AI 令牌配额。
AI 真的有用吗？来自一线的声音
尽管高层大力推动，但一些一线用户的体验并不理想。那位匿名的陆军员工表示，他发现这些生成式 AI 工具对自己的工作并不是特别有用。
更严重的是，他发现这些工具并不可靠。有一次，一个模型甚至声称它完成了一项任务，但实际上并没有。
“我认为这些工具可能对美国联邦政府的官僚体系在某些方面有帮助。但是，未经思考的应用和使用，不会带来有效、高效和可信的推广。”