一份研究报告指出，通用人工智能模型结合专用工具，已能自动完成复杂的数学证明，这预示着 AI 在科学推理领域的潜力。同时，AI 生成网络攻击工具的能力正在提升，可能将网络攻防带入“机器速度”时代。一位斯坦福经济学家认为，AI 的重要性将超过电力和半导体，可能带来巨大的经济增长，但也伴随着相应的风险，因此建议对计算资源征税以资助安全研究。此外，AI 对就业市场的影响存在差异：技术和管理岗位人员适应能力较强，而行政支持岗位则面临较大风险，最终的冲击程度取决于 AI 技术的扩散速度。
AI 正在实现数学证明的自动化
通用大型 AI 模型正被应用于数学和科学领域，通过为其配备合适的工具，就能在特定领域发挥出强大的能力。最新的例子是 Numina-Lean-Agent，一个使用通用基础模型进行数学推理的 AI 系统。
- 解决竞赛难题： 一个数学家团队使用该软件解决了普特南数学竞赛的所有题目。
- 辅助原创研究： 研究人员还用它来辅助形式化“Brascamp-Lieb 定理”，在不到两周的时间里，人机协作完成了超过 8,000 行的代码。
该系统包含几个关键组件，其中最有趣的是 “讨论伙伴” (Discussion Partner)。这个工具允许主模型在遇到瓶颈时，主动与其他大语言模型进行讨论，寻求帮助，就像人类向同事请教一样。
这项进展表明，我们现有的人工智能系统能力远超人们想象，只要提供合适的框架和工具，就能激发它们在特定领域的惊人表现。同时，让不同的前沿模型相互协作，也能产生更丰富的成果。
网络间谍活动的工业化
独立研究人员的测试表明，当前的大语言模型已经能够很好地为软件的零日漏洞生成攻击代码。这预示着网络安全领域即将迎来巨变。
我们应该为一个未来做准备：国家或组织发动网络攻击、侵入网络、提升权限并维持存在的限制因素，将不再是他们雇佣的黑客数量，而是他们随时间推移所能调用的算力。
这意味着网络入侵正在被工业化，投入算力就能换取实际的攻击成果。未来，网络世界的攻防节奏将进入 “机器速度” 时代，人类在多数关键环节中将被取代。这将导致两个后果：
- 攻击频率更高： 攻击的门槛和成本大幅降低。
- 个体效率提升： 无论攻击者还是防御者，其个人效能都将通过 AI 系统被放大。
一个悬而未决的问题是，这个新时代究竟是 进攻方占优 还是 防守方占优。一种猜测是，我们将首先进入一个进攻方占主导的时期，因为防御措施的部署需要更长时间。
经济学家：AI 的影响将超越电力和半导体
斯坦福大学经济学家查尔斯·琼斯认为，AI “很可能是我们有史以来开发的最重要的技术”，其影响力将比电力或半导体更为深远。
尽管过去的几次技术革命（如互联网、汽车）都推动了经济增长，但美国 GDP 增长率长期稳定在每年 2% 左右。然而，AI 可能会打破这一趋势，带来超常的经济增长。
假设我们用 AI 自动化了所有认知劳动，会发生什么？认知劳动在美国经济中约占 GDP 的 1/3。如果 AI 能无限量地完成这些任务，GDP 将提升 50%。如果这在十年内发生，年增长率将增加约 5%，这是一个巨大的飞跃。
这种增长带来的巨大财富原则上可以让每个人受益。但 AI 也带来了不容忽视的巨大风险。社会在应对生命威胁时，愿意付出极高的代价。例如，为了应对新冠病毒约 0.3% 的死亡风险，人们通过居家隔离和停摆经济付出了相当于美国 GDP 4% 的代价。
如果 AI 带来灾难性风险的概率是 1%，那么我们或许应该投入相当比例的资源来防范它。一个可行的方案是 对 GPU 等计算资源征税，这不仅能减缓技术竞赛的步伐，还能将税收收入用于资助安全研究。
AI 对不同职业的冲击并不均等
随着 AI 渗透到经济的各个角落，不同职业受到的影响将大相径庭。研究显示，许多最容易受 AI 影响的岗位，其从业者也恰好拥有较强的 “适应能力” 来应对职业转型。
- 处境较好者： 在 3710 万个最受 AI 影响的岗位中，有 2650 万从业者的适应能力高于平均水平。他们主要集中在技术和管理岗位，如网络设计师、市场经理和计算机系统经理。
- 处境较差者： 约有 610 万工人（占劳动力的 4.2%）所在的岗位既高度暴露于 AI，从业者的适应能力又较低。他们主要集中在文书和行政支持岗位，如各类办事员、秘书和行政助理。
决定适应能力强弱的因素包括：
- 净流动财富： 储蓄越多，应对失业的能力越强。
- 技能可转移性： 技能越容易应用到其他工作，转型越容易。
- 地理密度： 所在地区的工作机会越多，越容易找到新工作。
- 年龄： 年龄越大，在再培训、搬迁和职业转换方面面临的困难越多。
这里有一个关键的未知变量：AI 的扩散速度。如果 AI 以比过去技术快 10 倍的速度广泛而迅速地扩散到整个经济体，那么它带来的就业冲击可能会远超预期，甚至让那些适应能力强的人也措手不及。