在网络连接不可靠或缺失的地区，大型、云端的人工智能模型往往力不从心。因此，一种被称为“小型AI”的轻量级模型正在悄然兴起。这些模型规模小、功耗低，可以直接在手机或廉价设备上运行，无需联网。它们为医疗、农业等关键领域提供了切实可行的解决方案，例如在非洲快速识别假药、在印度帮助农民发现作物病害等，证明了AI的价值并非只能通过庞大的数据中心和巨额投资来实现。
大型AI的“掉线”困境
2019年，Adebayo Alonge在南非开普敦准备演示他公司开发的AI假药检测仪，但设备却罢工了。这个名为RxScanner的设备通过扫描药片并将数据发送到AI模型进行分析，以打击非洲每年导致数千人死亡的假药问题。
然而，演示那天，一切都出了问题。
- 问题所在: AI模型位于14000公里外的美国服务器上。
- 现实瓶颈: 当地有限的带宽导致一次扫描分析耗时超过5分钟。
- 即时方案: Alonge立即让工程师开发一个缩小版的模型，使其能完全在安卓手机上离线运行。他们在2小时内完成了任务，挽救了演示。
“我们的服务器在美国，仅仅获取一次扫描结果就花了我超过5分钟。”
这个意外的经历催生了设备的新版本，使其能在没有宽带、电脑甚至可靠电力的地方工作，也让Alonge成为了“小型AI”的倡导者。
小即是美：服务于大多数人的AI
对于世界上数百万人来说，唯一重要且可用的AI就是小型AI。与富裕国家耗资巨大的大型语言模型（LLM）相比，小型AI显得微不足道，但它却能提供挽救生命的服务。
世界银行行长Ajay Banga指出，大型AI需要强大的算力、电力、海量数据和专业人才，而这些条件在发达国家之外很少有国家能够同时满足。
相比之下，小型AI的应用正遍地开花：
- 印度农业: 基于无人机的小型AI系统可以自主识别腰果作物的病害，所有处理都在无人机上完成，无需连接服务器。
- 乌拉圭葡萄园: 用于识别蚂蚁侵扰。
- 全球健康: 在多个国家用于检测携带疟疾的蚊子。
- 巴西医疗: 在缺乏先进设备的地区，通过Arduino设备运行心电图分析。
巴西教授Marcelo José Rovai表示：“这是当今AI领域最重要的方向，它正在飞速发展。”
小型AI如何运作？
“小型AI”并没有严格的定义，通常指参数量在数十亿以内，小到足以在手机或树莓派等设备上直接运行的模型。这使得它们能够脱离数据中心，并仅用几瓦的电力（通常来自电池或太阳能板）工作。
这些模型并非全新的技术，其创建方法主要有：
- 剪枝 (Pruning): 从大型模型中移除与特定任务无关的参数，使其变得更小、更专注。
- 蒸馏 (Distillation): 训练一个小模型来模仿一个大模型的行为，直到其性能接近“老师”的水平。
- 降低精度: 例如，将一个为32位架构设计的模型调整为在8位硬件上运行。
- 从头训练: 针对特定分类或预测任务，直接在小型设备上进行训练。
未来与挑战
小型AI的发展得益于两个主要因素：一是硬件性能不断提升且功耗降低，越来越多手机搭载了专门处理AI任务的神经处理单元 (NPU)；二是语言模型本身的规模在缩小，例如谷歌的Gemma和阿里巴巴的Qwen等开源模型极大地推动了小型AI的开发。
“我认为AI的未来不是一个巨大的中央模型，而是数以百万计部署在边缘、解决特定问题的小而精确的模型。” — Adebayo Alonge
尽管前景广阔，但小型AI并非万能药。
- 依赖性: 创建小型模型仍然需要大型模型提供的架构洞察和数据处理能力。
- 基础设施: 即使设备可以离线运行，更新数据、为设备充电等依然需要可靠的电力和网络连接。
- 生态系统: 技术的长期成功离不开一个支持性的生态系统，包括稳定的供应链和能够培养AI人才的教育体系。
最终，小型AI能否在世界许多地区真正落地生根，取决于当地是否有足够的政治意愿来投资建设支持它的长期基础设施。