Synth Daily

AI推理的环境影响有多大

尽管人工智能(AI)的广泛应用导致数据中心用电量显著上升,但技术优化正在大幅降低其单次操作的能耗。谷歌的最新分析显示,通过软硬件协同优化,其 AI 文本查询的能耗在过去一年内下降了 33 倍。目前,一次查询的能耗仅相当于观看 9 秒电视,相关的碳排放和水消耗也极低。基于这些成果,谷歌呼吁整个行业采用其提出的全面测量框架,以共同提升 AI 技术的环境效率。

能源消耗的背景

近年来,美国用电量在经历数十年平稳后出现近 4% 的增长,这与数据中心,特别是为 AI 提供服务的设施迅速扩张密切相关。由于部分新增电力需求由燃煤发电满足,AI 的环境影响问题日益受到关注。然而,如果没有数据中心的内部运行数据,如硬件使用率和 AI 查询频率,就很难准确评估其真实影响。

如何衡量 AI 的环境足迹

准确分析 AI 的能耗需要明确计算范围。这不仅仅是处理器处理请求时的能耗,还应考虑许多支持性因素。

  • 直接能耗: 处理器、AI 加速器和内存在处理查询及空闲时消耗的电力。
  • 间接成本: 数据中心的冷却系统、硬件制造和设施建造过程中的能源消耗与碳排放。
  • 模型训练成本: AI 模型在训练阶段会消耗大量能源,这部分成本也应分摊到每一次后续查询中。

谷歌的测量框架

谷歌的分析包含了一系列详细的测量维度,但也有部分因素未被纳入。

  • 包含的项目:

    • CPU、AI 加速器和内存的活动及空闲能耗
    • 数据中心的整体能源和水资源使用。
    • 与电力供应和硬件制造相关的碳排放
  • 未包含的项目:

    • 网络传输数据产生的环境成本。
    • 用户终端设备(如手机或电脑)的计算负荷。
    • AI 模型的训练成本,尽管谷歌有能力估算,但此次未包含在内。

惊人的效率提升

谷歌的分析发现,单次 AI 操作的能耗其实非常小。

我们估计,一次中等复杂度的 Gemini 应用文案查询消耗 0.24 瓦时电量,排放 0.03 克二氧化碳当量,并消耗 0.26 毫升(约五滴)水。

这个能耗水平大致相当于观看 9 秒钟的电视

然而,坏消息是查询的总量极其庞大。谷歌已将 AI 操作整合到每一次搜索请求中,这带来了巨大的累计计算需求。好消息是,得益于技术进步,如今的成本已远低于一年前。

效率提升的关键

过去一年,谷歌通过软硬件协同优化,将单次查询的能耗降低了 33 倍

  • 软件优化: 采用“专家混合”(Mixture-of-Experts)等技术,只激活处理特定请求所需的部分模型,可将计算需求降低 10 到 100 倍。同时,开发更精简的模型版本也减少了计算负荷。
  • 硬件协同: 谷歌自研定制的 AI 加速器,并优化软件以与之高效协同,这至关重要,因为 AI 加速器占查询总能耗的一半以上。
  • 数据中心管理: 确保硬件得到充分利用,让其余部分保持在低功耗状态,从而提升整体效率。
  • 清洁能源: 随着太阳能等可再生能源的普及,谷歌得以使用更多清洁电力,使单位能耗的碳排放降低了 1.4 倍。

谷歌并未将此作为单纯的公关宣传,而是详细公布了其方法论,并倡导行业采纳类似的全面测量框架,以确保 AI 能力进步的同时,其环境效率也能同步提升。