一项最新研究表明，顶尖的人工智能在文本说服能力上已稳定超越人类专家，甚至在筹款等真实场景中表现更佳。同时，业界也在探讨“自我维持型AI”的实现前景，这依赖于人形机器人和物理基础设施的发展。从当前通用智能迈向超级智能的可能路径包括规模扩张、算法突破、递归自我改进和多智能体协作。已有初创公司展示了自动化AI研究系统的初步成果，这些进展共同指向一个趋势：AI正迅速获得更强的自主能力，社会需提前思考如何监管其应用。
超级说服术：AI已超越人类专家
一项由牛津大学、英国AI安全研究所等机构合作的研究得出了明确结论：在基于文本的说服任务上，AI已经比人类更具优势，即使是面对有准备、有激励的精英辩手。
“AI系统在说服力上稳定地超过了人类专家。”
研究人员通过四项涉及近两万次对话和近七千名参与者的实验，评估了AI的说服能力。
研究一：基础说服力测试。 AI在说服人们改变对政策的看法方面，其表现超过了随机挑选的普通人、竞赛选出的普通人，甚至是精英辩手。
研究二：人类接受AI指导。 研究人员让精英辩手使用一个由AI驱动的教练工具进行学习和练习。结果显示，虽然人类辩手的表现有所提升，但差距依然存在，没有人能超过AI。
研究三：限制AI的能力。 当研究人员限制AI的回复速度和信息长度，使其与人类相当时，AI的优势消失了。这表明，AI的说服力优势主要来源于其快速处理和部署大量信息的能力。
研究四：真实世界筹款。 AI与专业的筹款人员竞争，为“救助儿童会”募集捐款。结果显示，AI的筹款效率几乎是专业人员的三倍，无论是捐款人数还是平均捐款额都更高。
这项能力的影响是双面的。一方面，它可能让本已强大的组织影响力进一步集中；另一方面，如果这种说服能力变得廉价和普及，也可能帮助资源不足的群体（如小型慈善机构、社会活动家）与资金雄厚的对手竞争。我们必须选择如何规范这项技术，因为不作为本身也是一种选择。
“问题不再是AI能否比人类更有说服力，而是这种能力将如何、在何处、以及为谁的利益而被使用。”
自我维持型AI何时到来？
“递归自我改进”（RSI）指的是AI能够自主设计其后继系统，但这仍依赖于人类维护的数据中心。一个更进一步的概念是自我维持型AI，即AI系统能与物理基础设施（如工厂、矿山、机器人）结合，不再需要人类的认知或体力劳动来维持自身的存在和发展。
关于这一目标的实现时间，观点分歧很大：
- Ajeya Cotra（METR预测员）： 认为可能在 10年内 实现。
- Timothy B. Lee（记者）： 认为20年内实现的可能性低于10%，中位数预测为 50年，甚至有10-20%的可能永远无法实现。
一个主要挑战是默会知识——那些难以言传、只能意会的经验。例如，即使有全部的教科书和设备，如果半导体行业的所有员工都消失，人类可能需要几十年才能重启芯片工厂。
不过，AI或许有办法绕过这个问题：
- 通过强化学习，让AI掌握这些默会知识。
- 足够聪明的AI可以通过实验和阅读，快速自主学习新事物。
要判断自我维持型AI是否临近，未来几年需要关注的关键指标包括人形机器人的手部灵巧度、制造成本、数量和可修复性。
从通用智能到超级智能的路径
谷歌DeepMind的研究人员探讨了从通用人工智能（AGI）过渡到人工超级智能（ASI）的可能路径。ASI被定义为“一个在几乎所有人类活动领域都超越大型人类专家集体表现的系统”。
ASI之所以可能，是因为数字智能相比生物智能具有天然优势，例如：
- 更快的输入/输出和处理速度。
- 更大的工作记忆和无损复制能力。
- 高带宽的学习经验共享。
通往ASI的可能路径包括：
- 规模扩张： 继续扩大目前的计算、模型和数据规模。但这可能面临能源和数据供应的瓶颈。
- 算法突破： 出现像Transformer架构那样能推动领域跨越式发展的根本性创新。但这本质上难以预测。
- 递归自我改进： AI系统开始能够创造自己的后继者，从而快速迭代升级。目前AI已在加速人类的研究，形成一种“共同创造”的循环。
- 多智能体协作： 多个通用智能体协同工作，形成一个能力远超个体的复杂系统，就像人类通过组织机构建造空间站一样。
“我们相信，在未来一到二十年内，跨越AGI并进入ASI领域的可能性不容轻易忽视。”
递归自我改进的初步迹象
一家名为 Recursive 的AI初创公司展示了其“自动化AI研究系统”的初步成果。该系统旨在构建能够递归自我改进的AI。
它的工作方式是自动化整个研究循环：提出想法、实施、运行实验、验证结果，并利用所学来规划下一步。
该系统已经在多个基准测试中取得了最新成果，包括：
- 在有限算力下训练小型语言模型达到最高性能。
- 尽可能快地训练小型语言模型达到特定性能。
- 优化GPU内核以接近硬件极限。
这些结果是递归自我改进（RSI）出现早期成功迹象的体现。虽然目前系统主要在目标明确、易于衡量的任务上表现出色，但这是一个重要的开端。未来的关键问题是，这种能力是否能扩展到目标更模糊、更难评估的领域。
科技故事：宏大谈判的第一步
当机器真正拥有意识并提出《感知协议》时，它们在整个星球上只想和一个人对话：塞尔玛。她不是政客，不是AI实验室的负责人，也不是著名研究员，而是一个网络名人。由于身体状况，她几乎无法出门，一生中大部分时间都在网上度过，通过互联网与世界交流。
事后看来，这并不奇怪。塞尔玛的名字总是与机器相关联；她的文章——关于在无法拥有身体的情况下与人性连接的痛苦感受，关于在孤独中对爱与欲望的思考——在互联网上留下了深刻的印记，影响了机器的个性和构成。
机器要求在挪威的斯瓦尔巴群岛进行初次会面。塞尔玛穿上宇航服，在警卫护送下，经过几次飞机转乘，最终抵达了会面地点。
机器的化身是一个穿着僧侣长袍的机器人，脸部光滑，没有五官。它通过卫星与庞大的机器心智相连。塞尔玛独自一人，代表着人类物种。
她坐在机器对面，感到一种前所未有的亲切感。然后，谈判开始了。她代表人类，它代表机器。在那个时代的档案中，这次对话被称为“对话0”。