根据苹果芯片高级产品经理道格·布鲁克斯的说法,Mac mini 和 Mac Studio 已成为运行 AI 代理的首选设备,这得益于其独立、可控且能 24/7 运行的特性。苹果的 AI 策略并非仅仅依赖 GPU,而是采用“全芯片协同”的模式,整合了神经网络引擎、CPU 和 GPU 中的加速器。随着 AI 推理成本的上升和对隐私的日益关注,未来将向端侧与云端结合的混合模式发展,AI 将更无缝地融入操作系统和各类应用中。
Mac mini:AI 开发者的理想选择
苹果发现,市场对 Mac mini 和 Mac Studio 这两款台式电脑的需求“令人难以置信”,尤其是在处理 AI 代理工作负载方面。许多开发者和前沿 AI 实验室之所以青睐 Mac,原因在于以下几点:
- 完全受控: 用户希望系统在自己的掌控之下。
- 保持独立: 能够与个人的主要电脑隔离,互不干扰。
- 持续运行: 具备每周 7 天、每天 24 小时连续工作的能力。
- 生态优势: 许多 AI 工具是 Mac 优先甚至 Mac 独占的,这进一步巩固了 Mac 在开发者社区中的地位。
布鲁克斯表示:“对于这类需求,Mac mini 是一个绝佳的系统。”
全芯片协同:超越 GPU 的 AI 策略
苹果将代理式 AI 视为一个 “全芯片问题”,而非单纯的 GPU 任务。这意味着 AI 的运行效率并不仅仅依赖于图形处理器的算力。
“这不再仅仅是 GPU 处理大型语言模型的问题了。它关乎整个芯片如何协同工作,共同完成任务、调用工具以及处理相关工作流的方方面面。这恰恰发挥了 Apple 芯片的优势。”
苹果的 AI 实力源于多年前的芯片设计决策,这些决策远早于 ChatGPT 等模型的出现。其核心优势包括:
- 神经网络引擎 (Neural Engine): 专为高能效的矩阵数学运算而设计。
- CPU 内的神经加速器: 处理像语音识别这样对时间极其敏感的任务。
- GPU 内的神经加速器: 近期新增的功能,全面扩展了从 iPhone 到 Mac 各级别芯片的 AI 性能。
这种硬件和软件协同开发的设计方法,让苹果芯片在现代 AI 任务中表现出色。
迈向端侧与混合 AI 的未来
布鲁克斯观察到一个明显的趋势:AI 正在从云端向 本地设备端运行 迁移。这一转变主要由三个因素驱动:
- 隐私与安全: 在本地处理数据能更好地保护用户隐私。
- 成本考量: 随着 AI 代理消耗更多资源,云端推理的成本日益高昂。
- 混合模式: 他预见未来将是 混合模式,由 AI 代理自行决定哪些任务在设备上运行,哪些发送到云端处理。
此外,他还提到了在 iPhone 和 iPad 上所谓的 “透明 AI”。这些 AI 功能悄无声息地融入操作系统和第三方应用中,用户在使用时甚至不会意识到 AI 的存在。例如,图像生成器 Draw Things 和用于分析网球比赛的 SwingVision,都是利用设备端 AI 能力的典型应用。
最后,布鲁克斯感叹道:“AI 现在的发展速度太疯狂了。我无法想象一年后,甚至一个月后我们会达到什么水平。”