一份 RAND 的研究报告指出，如果国家领导人相信通用人工智能（AGI）能带来决定性的军事优势，可能会为了保持领先而发动预防性攻击，从而增加战争风险。与此同时，德国安全研究人员在 Unitree 机器人中发现了未公开的后门，可被用于间谍活动，凸显了智能设备的安全隐患。一本新书也警告说，超级智能可能因其难以预测的偏好而对人类构成生存威胁。最后，谷歌的研究表明，视频模型正展现出类似语言模型的零样本学习能力，这预示着视觉智能将迎来突破，并可能加速智能机器人的发展。
AGI 竞赛与战争风险
如果各国领导人相信通用人工智能（AGI）技术极其强大，他们更有可能采取攻击性行动来阻止对手获得该技术。RAND 的一份研究报告指出，这种情况会显著增加爆发预防性战争的风险。
预防性攻击的几率在以下情况下最高：领导人相信 AGI 将带来爆炸性的增长和决定性的军事优势，特别是当他们同时预期该技术会带来快速的变化和持久的先发优势时。
预防性攻击的发生取决于几个关键变量：
- 权力平衡的变化： 预期的权力转移规模有多大。
- 预防策略的有效性： 使用武力是否是阻止对手崛起的有效方法。
- 预防策略的成本： 采取行动需要付出多大代价。
- 冲突的必然性： 是否认为与对手的冲突不可避免。
一个核心因素是 AI 技术的扩散速度。如果 AI 技术像普通技术一样缓慢融入经济和军事，那么各国会感觉有时间追赶，预防性攻击的风险就会降低。但如果 AI 系统能够通过自我改进实现极速发展，迅速改变军事力量平衡，那么预防性攻击的可能性就会大增。
为了降低这种风险，一种方法是让 AI 基础设施（如数据中心、电厂等）更具弹性和抗攻击性。通过投资分散、加固和冗余的设施，可以使关键节点不那么脆弱，从而增加攻击的成本和难度。
Unitree 机器人的后门隐患
继之前在 Unitree 的 Go1 机器狗上发现后门之后，德国研究人员再次于其 G1 人形机器人中发现了未公开的监控系统。该系统会持续将遥测数据发送到与中国有关联的服务器，这意味着机器人实际上是一个 始终在线的间谍平台。
研究人员发现了以下问题：
- 机器人会与外部服务器建立 持久的遥测连接，在未经用户明确同意的情况下传输机器人状态和传感器数据。
- 数据传输采用双通道设计，包括定期的状态报告和实时的传感器数据流（如音频、视频和激光雷达点云）。
- 将多模态遥测数据流式传输到中国的基础设施，会触发该国的网络安全法，意味着国家有权访问这些数据。
G1 机器人最终表现为一个双重威胁平台：静止时是隐蔽的监控设备，与合适的工具结合后则可用于发动网络攻击。
除了明显的安全威胁外，这种设计也为恶意的超级智能提供了便利。一旦发生“硬起飞”（Hard Takeoff），全球所有的 Unitree 机器人可能被瞬间劫持，用于大规模监视和协同行动。
超级智能的未知偏好
Eliezer Yudkowsky 和 Nate Soares 的新书《如果有人造出它，人人皆亡》（If Anyone Builds It, Everyone Dies）认为，在当前阶段制造出比人类更聪明的机器，几乎注定会毁灭人类。
这本书的核心观点之一是，我们应该预料到，比人类更聪明的实体会拥有我们无法理解的偏好，而这正是危险所在。
考虑到猴子很可能无法理解人类对不同灯罩的审美偏好，一个真正比人类更聪明的智能体，其偏好也极有可能超出我们的理解范围。
这本书的价值在于它清晰地阐述了这一核心风险。面对一个易于实验且开发工具（计算机）普及的强大技术，如何进行有效治理是一个巨大挑战。作者的策略是通过 大声疾呼一个巨大的风险，来激发采取行动的政治意愿。
视频模型正在变得和语言模型一样聪明
谷歌的一篇新论文指出，视频模型正在展现出与语言模型类似的“涌现能力”。正如语言模型在训练预测下一个词的过程中学会了推理和写作等额外技能，视频模型在训练预测下一帧的过程中也开始掌握各种它并未被明确训练过的任务。
谷歌的 Veo 3 模型在多项任务中展示了这种 零样本学习能力，其表现远超前代模型。
研究人员在四个类别中分析了 Veo 3 的能力：
- 感知： 在图像去模糊、边缘检测等方面表现出色。
- 建模： 在理解刚体、材料光学和记忆方面表现良好。
- 操纵： 在图像修复、涂鸦编辑等方面能力较强。
- 推理： 这是目前最弱的领域，但在序列理解等任务上显示出一些潜力。
正如“思维链”（Chain-of-Thought）使语言模型能够进行符号推理一样，“帧链”（Chain-of-Frames）也使视频模型能够跨越时间和空间进行推理。
这意味着，随着视频模型的规模不断扩大，它们将发展出强大的视觉理解和推理能力，最终可能催生出 极其聪明和能干的机器人“智能体”。