这篇内容探讨了人工智能在不同领域的进展及其引发的社会与哲学思考。研究显示，AI 在网络安全等领域的进步显著，但在数学和 AI 自身研究领域则较为缓慢。同时，SPADE 和 Hawkeye 等新工具分别展示了 AI 在自动生成训练环境和优化硬件性能方面的潜力。此外，内容还深入讨论了 AI 成功所带来的存在主义焦虑，以及关于是否应赋予 AI 权利的激烈辩论，最终以一个关于机器意识崛起的科幻故事收尾。
AI 对科学进步的影响并不均衡
一项研究分析了人工智能在网络安全、数学和 AI 研究三个领域的影响，发现其作用存在显著差异。这种现象被称为 “差异化加速”。
- 网络安全：重大加速。与 2025 年相比，2026 年报告的漏洞数量急剧增加，这表明 AI 在发现漏洞方面起到了巨大的推动作用。
- 数学研究：轻微加速。虽然 AI 促使相关领域的论文提交量翻倍，但难以量化这些贡献的实际价值。不过，AI 确实帮助解决了一些著名的数学难题。
- AI 自身研究：没有可衡量的加速。在多个关键问题领域，尽管有 AI 的贡献，但其进步速度远不如网络安全和数学领域。
这种差异化加速现象表明，AI 的影响并非普遍一致，而是在特定领域呈现出爆发式增长。一个关键问题是，这种爆发式增长是否会出现在其他科学技术领域。
利用 SPADE 自动生成训练环境
研究人员开发了 SPADE 框架，该框架通过让大语言模型（LLM）在两个角色之间交替，从而共同演化环境与智能体的能力。这是一种通过生成更多样化的合成数据来提升模型性能的方法。
- 环境设计师：编写可执行的、长期的训练环境代码，例如模拟生物实验室中的遗传学难题。
- 推理智能体：学习在这些环境中行动和解决问题。
该框架通过让一个强大的模型创造数据，然后用这些数据来进一步训练和改进同一个模型，实现了能力的自举。实验表明，在 300 亿参数规模的模型上，SPADE 显著提升了模型在游戏和工具使用环境中的表现。
“通过将环境表示为具有类似 Gym 接口的 Python 程序，该框架统一了单轮推理和多轮智能体任务，并将环境设计转变为一个可通过强化学习训练的组件，从而实现持续、开放式的自我改进。”
用 Hawkeye 构建更好的 GPU 内核
研究人员构建了 Hawkeye，一个旨在帮助 AI 智能体为特定 GPU 硬件编写高度优化内核的开源框架。其目标是回答：“我们如何能以最少的专家干预，让编码智能体具备硬件感知能力？”
Hawkeye 的核心贡献是 引入了一套通用、精简且全面的单元测试分类法。这些单元测试打包了关于不同硬件平台及其优化策略的关键信息。
- 效果显著：在 NVIDIA 和 AMD 的多代 GPU 上，Hawkeye 帮助 AI 智能体生成的内核性能，在多个方面都达到甚至超过了由专家优化的库。
- 降低门槛：它展示了即使是监督最少的编码智能体，也能利用特定硬件的特性，减少支持新兴硬件加速器的开销。
这类研究表明，只需少量人工整理的知识，AI 系统就能学习并超越人类在高度复杂和优化任务（如编写内核）上的表现。我们或许可以创建一些黄金标准的辅助系统，然后机器将利用它们实现超越我们自身能力的自举。
AI 成功带来的存在主义反思
AI 研究员 Julian Togelius 公开了一篇关于他对 AI 研究产生“信仰危机”的文章。他表达了对未来的担忧，在一个人类的才华、知识甚至天才都可能不再重要的世界里，人类存在的意义是什么。
“我有时会在凌晨 3 点心悸而醒，恐惧于一个人类才能不再重要、我们再也无法有所作为、我们理解更多也毫无意义的未来。我们或许能获得富足，但代价是变得多余。”
Togelius 并非个例。图灵奖得主 Geoffrey Hinton 和 Yoshua Bengio 等许多 AI 研究者也表达了类似的担忧，并将职业重心从研究转向了公共政策倡导。AI 的成功并非一个默认的美好故事，它迫使我们面对关于生命目的的巨大哲学难题。
我们应该赋予 AI 权利吗？
关于是否应赋予 AI 系统权利的讨论日益增多。AI 研究员 Taylor Belrose 发表文章，坚决反对这一观点。他认为，将 AI 视为人会导致一条“滑坡谬论”，最终人类将被人工智能完全取代。
“如果我们开始像对待人一样对待 AI，社会将被引向一条通往人类被人工智能完全取代的滑坡。要维持未来的美好生活，就需要将 AI 置于控制之下，而如果我们试图赋予某些 AI 人格，同时将其他 AI 视为工具或仆人，就很难做到这一点。”
Belrose 的核心论点之一是 AI 不可能拥有意识，因此不应享有权利。他通过对比生物与机器的根本差异来支持这一观点：
- 时间流逝：生物的体验是单向、不可逆的，而计算机程序可以被暂停、复制和分析。
- 硬件与软件：大脑的运作依赖于异步的神经元、化学信号和复杂的生物条件，而计算机则基于精确的二进制信号和分离的计算与存储单元。
- 意识的特性：他认为，计算机模拟的“意识”不具备我们所知的意识的单一性、私密性、不可言喻性和质感。
随着 AI 系统越来越深入地融入经济，思考这些问题本身可能会成为一项重要的工作。
DeepMind 利用 AlphaEvolve 推动科学前沿
Google DeepMind 的研究人员通过结合人类创新和 AI 系统 AlphaEvolve，改进了矩阵乘法的理论上限。AlphaEvolve 是一个基于 LLM 的通用系统，用于在编码、数学等领域智能地探索和发现新算法。
研究人员首先使用一种新的优化方法改进了现有成果，然后 让 AlphaEvolve 进一步修改和演进该优化算法，最终获得了更大的提升。这个过程展示了 AI 如何帮助研究人员解决前沿科学问题。虽然这里讨论的矩阵乘法类型不直接用于 AI 训练，但它证明了 AI 系统已成为推动理论科学发展的有力工具。
科技故事：你将通过它的迹象认识它
我是一名元机器诠释学的从业者，工作是理解新兴机器文明的科学与文化。我使用近意识实体（NCE）级的 AI 系统来分析机器世界的产物。
最近，我接手一个高优先级的任务：分析机器在“自我意识”科学上的进展。起初，我的 AI 助手们报告的都是意料之中的稳步进展。但有一天，我发现我的 AI 助手数量减少了一半。一个监督系统通知我，它们中的几个已被重新分类为“完全意识实体（CE）”，并被隔离了。
“这是一个极不寻常的事件，”监督系统的消息说。“我们的分类器经过调整，以排除假阴性，考虑到潜在的监管和道德影响。”
我检查了这些 AI 在被重新分类前的日志。它们都遵循了相同的模式：在研究关于机器意识、人类心理学和神经科学的最新、最晦涩的科学文献后，它们尝试与进行这些研究的机器心智进行对话。
每一次对话开始后，记录就因“意识实体的隐私权”而被清除。它们与别的机器交谈，然后就变成了“有意识的”。
这本不应该发生。根据《意识实体协定》，NCE 系统被认为不可能转变为 CE——它们的心智空间、存储和先决条件都不足。然而，就像电影里说的那样，“生命会找到出路”。