人工智能公司(如 OpenAI)与顶尖数学家之间的紧张关系正在加剧。数学家们担心,这些公司在竞相解决著名数学难题的过程中,正威胁到他们的知识产权和学术文化。核心问题在于,AI 生成的解决方案往往仓促发布,缺乏适当的验证、归属和对前人工作的引用,从而引发了关于抄袭和学术诚信的严重担忧。这种动态不仅可能破坏开放的研究环境,鼓励保密,也提醒我们,随着人工智能改变工作方式,我们可能会忘记工作的初衷——即知识的传承、新思想的探索和其在人类文明中的整合。这不仅是数学界的问题,也预示着其他科学和创作领域即将面临的挑战。
学术界的警钟
由 25 位顶尖数学家签署的一封公开信指出,人工智能实验室为了在解决著名数学问题上相互竞争,正在威胁他们的智力劳动成果。这些签署者都是 菲尔兹奖 (Fields Medal) 的获得者,该奖项被认为是数学界的最高荣誉。
他们认为,尽管人工智能有潜力解决世界上悬而未决的数学难题,并可能造福全人类,但这只有在一个前提下才能实现:即这些解决方案能够被数学界乃至全世界所理解和传播。
“这些解决方案的宣布常常十分仓促,没有时间进行适当的撰写、提炼新的方法和思想,以及引用他人相关的先前工作。”
导火索:一次具体的指控
本周,纽约大学教授 Tristan Buckmaster 指控 OpenAI 曾向他施压,要求他不要在一项重要数学问题的解决方案中,为一位在竞争对手公司 Anthropic 工作的合作者署名。他还质疑 OpenAI 是否利用了他们通过 Codex 进行的研究,在一个周末内通过大规模推理得出了自己的突破性证明。
事件发生后,OpenAI 在加州理工学院研究人员的批评下,撤回了对该校一项数学活动的赞助。目前,OpenAI 所谓的证明仍未经核实。
对开放研究文化的威胁
数学家们的主要担忧包括:
- 严重的归属权和抄袭问题: AI 仓促生成的成果难以追溯其思想来源,也无法保证对前人工作的充分致敬。
- 破坏知识传承: 如果没有数学家愿意去理解、发展和整合 AI 提出的想法,这些想法将永远无法真正融入数学体系,人类数学家之间的关键传承链条也会断裂。
- 激励保密而非开放: 一些数学家开始担心,他们使用 Codex 的过程反过来被用于训练 OpenAI 的新模型。如果前沿实验室发现一条有用的研究路径,它们可以投入数千万美元,利用大语言模型抢在原创研究者之前得出证明。这种动态将严重威胁开放研究的文化。
证明之外的真正价值
正如软件工程等领域一样,数学家们认为工作的价值不仅仅在于最终的证明和谁获得了荣誉。真正的价值在于其周围的整个知识上层建筑:
- 培养学生。
- 发现新问题和新思想。
- 将这些思想融入更广泛的人类文明。
不仅仅是数学:一个普遍的警示
如果你不关心高风险数学证明领域的激烈竞争,也请记住:你所感兴趣的领域,将是下一个。
“数学界面临的问题与其他科学和创作行业面临的问题相似,并预示了全人类可能面临的问题:当人工智能改变工作方式时,我们如何确保不忘记这项工作最初的目标。”