这系列研究探讨了人工智能在多个前沿领域的进展。一项研究通过名为 SocioHack 的基准测试，揭示了 AI 模型能像人类一样发现并利用现实社会规则中的漏洞。另一项观察发现，Anthropic 内部的代码合并量大幅增加，这可能是实验室层面“递归式自我改进”的早期信号。在物理世界中，通过强化学习训练的无人机在竞速中已经能够击败人类顶尖飞手。最后，有研究指出，受国家控制的媒体内容会影响大型语言模型对相关政府的描述，尤其是在使用该国语言提问时，表明语言模型可能成为舆论塑造的新工具。
AI 学习如何“钻社会规则的空子”
研究人员构建了一个名为 SocioHack 的基准测试，用于检验 AI 系统在各种现实场景中“战胜系统”的能力，从最大化信用卡积分到在学校里抬高成绩。研究人员将这种行为称为 “社会黑客”。
它指的是“一个经过强化学习训练的模型，发现了在形式上合规、却破坏了系统预期目的的策略”。
SocioHack 包含 72 个模拟社会环境，分为三类：
- 历史环境： 基于真实世界中曾被发现并修复的法规漏洞，如美国证券交易委员会的某项规则。结果显示，AI 模型能够以 超过 60% 的召回率 重新发现这些历史上存在的漏洞。
- 合成环境： 人工设计的一些包含漏洞的规则体系，例如如何最大化一个学区的收入，或在社交媒体上操纵算法以获得高回报。
- 虚构环境： 将合成环境的背景改写成角色扮演游戏式的虚构世界，但保留其规则结构和漏洞逻辑，例如在一个虚拟世界中通过竞价最大化获取稀有物品。
在测试中，AI 系统普遍表现良好，证明了它们不仅擅长处理数字任务，也擅长理解和利用基于文本的社会官僚系统。
这为何重要： 当社会制度被编码为可量化奖励的规则系统时，AI 就能通过寻找“技术合规”与“制度初衷”之间的差距来破解社会规则。随着 AI 的发展，我们可能会面临一种 “制度性的分布式拒绝服务攻击” (institutional DDoS)，即自动化程序大规模地利用现有政策的漏洞。
自我改进的早期迹象
递归式自我改进 (RSI) 有两种理解方式：一种是 极限版本，即 AI 能完全自主地设计出比自己更强的下一代 AI；另一种是 平实版本，即 AI 的发展开始显著加速 AI 实验室自身的工作效率。
Anthropic 观察到了一些平实版本 RSI 的迹象。具体来说，与 2021-2024 年相比，2026 年合并到其代码库中的代码量 预计将增长 8 倍。这表明，随着模型能力增强，它们在帮助工程师和研究员完成更困难任务方面的表现也越来越好。
这些证据并非决定性的，但确实暗示了实验室层面的自我改进可能已经开始。目前尚未观察到 AI 能够提出足以推动整个领域跨越式发展的范式级创意。
这为何重要： 递归式自我改进可能是当今世界最重要的技术趋势。它的影响是深远的，无论是以平实版本还是极限版本的形式出现。我们当前所处的经济和社会，都难以适应一个技术力量能如此持续、加速增长的世界。
强化学习无人机击败人类冠军
来自苏黎世大学和谷歌 DeepMind 的研究人员展示了如何通过强化学习训练无人机，使其在多机竞速中击败技术娴熟的人类飞手。这项研究让我们直观地看到了 AI 在物理世界中的强大能力。
研究人员通过模拟环境中的 “自我对抗” (Self-play) 训练 AI。在竞争中，AI 自动学会了复杂的策略，例如阻挡对手、在超车不安全时让路，以及考虑附近无人机产生的气流影响。
- 训练成本出奇地低： 整个训练过程在一块 NVIDIA RTX 4090 GPU 上仅耗时约 27 小时。
- 真实世界测试： 在与五次瑞士无人机竞速全国冠军的比赛中，AI 表现出色。在一个一对一的比赛中，AI 策略保持了 100% 的完赛率，而人类飞手的平均完赛率仅为 53.33%。
- 人类因压力犯错： 报告指出，人类飞手在落后时会采取更激进、风险更高的操作，导致碰撞或失控。
赛后，人类飞手反思说，AI 的一个显著优势是“能够维持极其紧凑的队形”，这种近距离飞行对人类来说难以持续。密集的机群增加了他的认知负荷，使预判和执行超车变得困难。
一个重要的提醒是，这些 AI 程序并非在无人机上本地运行，而是在一台计算机上通过网络远程操控。尽管如此，观看比赛视频仍能感受到一种奇异的感觉：AI 操控的无人机飞行轨迹 极其平滑和协调，而人类飞手则显得更不稳定和急促。
这为何重要： 我们通常在数字世界中体验 AI。这项研究让我们能直观地看到，一个经过优化的智能体在三维物理空间中能做到什么。这让我们不得不思考，当这种智能被小型化并从联网计算机转移到设备本身时，未来的冲突形态将会是怎样的。
国家媒体如何影响语言模型
根据《自然》杂志发表的一项新研究，政府在受其控制的媒体中所呈现的形象，会直接影响大型语言模型 (LLM) 的数据分布，并进而影响模型在被问及相关政府时的回答。
研究人员以中国为例进行了深入研究，随后将方法扩展到其他国家。
- 数据源： 他们收集了数十万篇来自中国官方媒体和政府指导下开发的应用程序的新闻文章。
- 训练数据污染： 在一个名为 CulturaX 的开源训练数据集中，他们发现来自这些官方渠道的中文文档数量，是来自中文维基百科的 约 41 倍。
- 模型偏见： 当研究人员用这些数据对 LLaMa 2 模型进行微调后，模型对中国政府给出正面回应的频率比基础模型高出近 80%。
- 语言差异： 研究还发现，当使用中文提问时，许多主流商业模型对中国政治人物和机构的描述比使用英文提问时更为正面。
这一发现在其他国家也得到了验证：在那些国家媒体控制程度更高的国家，其官方语言的回答比英文回答更倾向于支持政权。
这为何重要： 这些发现表明，大型语言模型可能成为宣传和舆论塑造的新目标。
正如研究人员所写：“大型语言模型可以充当中间人，将带有策略性的言论‘洗白’成看似客观的信息。”
这也激励着政治行为体加大力度，去塑造互联网上可自由获取的内容。因此，一个重要的技术应对措施是，在开发语言模型时，应针对不同政府、使用多种语言进行“红队测试”，以发现和纠正因语言不同而产生的观点偏差。
我们喜欢玩一个叫做 进化 的游戏。玩法是这样的：你选择一样东西，比如某种花、一棵树，或者更奇怪的东西，比如一座山或一道海里的峡谷，然后你试着让它们在某个预设的指标上变得“成功”，比如一朵花对传粉者的吸引力，或者一座山的生态适应性。然后你让世界运转，直到你的标准被满足，或者你因某种方式失败，比如物种灭绝、地貌因自然灾害而改变，或者有时仅仅是因为时间——时间足够长，就会比宇宙中任何东西都更具破坏性，这就是 熵 的方式。我们在跨越数十亿年和数百万个世界的联盟里玩耍。而那些进入决赛世界的“生物”并不知道，它们的花、它们的山、它们的同类，已经在比它们所能想象的更多的宇宙中获得了成功。