人工智能正开始解决顶尖的数学难题，这引发了一个核心问题：人类数学家未来将扮演什么角色？一种观点认为，AI 最终将在所有方面——从发现、教学到判断力——超越人类。人们为了自我安慰而提出的各种理由，比如“人类将指导 AI”或“人类需要理解 AI 的成果”，可能都站不住脚。因为在未来的竞争中，完全由 AI 驱动的科研和工程将更具优势。然而，这个未来并非注定，而是一个选择。我们可以选择不让自身被淘汰，因为追求纯粹的技术进步可能带来一个我们无法理解、也无法掌控的世界。
对未来的几种“自我安慰”及其现实
当 AI 开始接管数学时，人们会用各种说法来说服自己一切照旧。以下是一些常见的观点以及它们可能如何被现实所驳斥：
“我们将指导 AI，为它们指向研究方向。” 现实是，AI 将在品味和直觉上超越人类。到某个时候，让人类来指路会比让 AI 自行探索（只需提供一个证明检查器）得到更差的结果。
“我们将教授 AI 发现的数学。” AI 将会是比人类更好的老师。而且，对于前沿数学的阐释性工作，可能将不再有人类受众。
“我们将决定哪些 AI 的发现是重要的。” 这个想法很美好，把人类描绘成知识的筛选者和整理者。但现实更有可能是：AI 不仅是前沿的探索者，也会是知识大教堂的更优秀的设计师和建造者。
“我们将成为 AI 数学的学生。” 这种学习方式是有限的。当 AI 在数学领域探索得如此之深，以至于前沿知识与基础数学之间的距离，超过了任何人在一生中可能学完的范围时，这条路就走不通了。
“我们需要人类来理解 AI 的发现。” 我们可能并不需要。未来的模式是：顶尖 AI 搞数学 -> 下游 AI 用新数学搞科学 -> 更下游的 AI 用新科学搞工程。整个链条中都不需要人类的理解。那些坚持让人类参与理解环节的公司，将被那些不这样做的公司淘汰。
最终结果是，我们将生活在一个如同被魔法驱动的世界里，身边充满了我们不理解其运作方式的奇妙设备，这些设备基于我们不理解的工程原理，而这些原理又源于我们不理解的数学形式。
为什么数学不是象棋？
一个有力的反驳是：“计算机在国际象棋上早已超越人类，但我们仍然下棋。” 为什么数学会不同？
关键区别在于，国际象棋是自成一体的。棋局的结果不会帮助我们理解行星轨道或药物如何与蛋白质结合。
而数学是科学的引擎，是理解世界的最佳语言和方法。一个能够比人类更好、更快、更便宜地替代数学家的机器，具有巨大的物质价值；而一个更好的象棋引擎则没有。两个超人类的象棋 AI 对弈，并没有多少人关心。但一个超人类的数学家则完全不同，它会带来巨大的竞争优势。
数学的社会性：个人热情为何不够
有人可能会想：“我可以在工作之外，为了纯粹的乐趣而继续写代码或研究数学。” 这种想法忽略了数学和任何创造性活动都深植于社会背景之中。
以编程为例，当 AI 侵入这个领域后：
- 讨论的质量变差了，变得更加反智。
- 开源项目收到了大量由 AI 生成的、毫无价值的“垃圾”贡献。
- 当你创造一个优雅的新工具或语言时，会开始怀疑：还会有人关心吗？还会有人使用吗？
这让人感到沮丧。
我们是社会性动物：我们在乎自己是否有用，在乎地位，在乎对世界的影响。很少有人能仅凭内在动机长期坚持一项活动。
结论：未来是一个选择，而非必然
科技的发展并非不可避免。“不可避免”这个词是为行星轨道准备的，而不是人类行为的产物。我们可以选择让自己被淘汰，也可以选择不。
我们应该认识到，通用人工智能（AGI）是一个魔鬼的交易：
- 好处： 我们或许能加速技术进步，提前解锁延长寿命等科技。
- 代价： 从长远来看，人类最多只会成为被更强大实体照料的宠物。