25 位顶尖数学家签署了一封公开信,认为 AI 实验室在争相用著名数学难题的解答一较高下的过程中,正在威胁他们的智力工作。每位签署者都获得过菲尔兹奖,该奖被视为数学界最负盛名的奖项。
本周,纽约大学教授 Tristan Buckmaster 指控 OpenAI 向他施压,不让他把一道重要数学问题的解决归功于一位在 Anthropic 工作的合作者,并怀疑该公司是否利用了他们使用 Codex 的成果,在一个马拉松式的周末推理中得出了自己的突破性证明。
周四,在该公司受到加州理工学院研究人员批评后,OpenAI 撤回了对该校一场数学活动的赞助。
AI 模型能够解决世界上悬而未决的数学难题,对人类可能是一大福音,但新公开信的签署者认为,只有这些解答能被数学界乃至最终整个世界理解和传播,这才会成立。
“这些解答往往仓促公布,没有时间做规范的写作、提炼新的方法和思想,也没有时间引用他人相关的既有工作,”他们写道,而 OpenAI 的证明至今仍未经验证。“和所有创造性职业一样,这引发了严重的署名和剽窃问题。此外,如果没有愿意负责将其发展并融入数学体系的数学家,AI 构想出的思想永远不会真正活起来,数学家之间至关重要的人类传承链条也将断裂。”
其他数学家越来越多疑,担心自己使用 Codex 的内容是否又被喂给了 OpenAI 的新模型,人们确实担心开放研究的文化会受到威胁。如今,如果前沿实验室发现某项发现有可行路径,它们可以花上数千万美元,用 LLM 抢在原研究者之前拿出证明,这种态势会鼓励保密。
这封信紧随 6 月由一个数学家工作组发布的莱顿宣言之后。该文件同样探讨了 LLM 证明将如何改变他们的工作,并为数学家、机构和政策制定者提出了一系列建议。
与软件工程以及其他 AI 工具正在改变工作流程的领域一样,数学家们在工作之外的工作中找到了立足点:数学的价值不只在于证明和谁获得署名,更在于滋养学生、发现新问题与新想法,并将它们融入更广阔的人类文明的智识上层建筑。
如果你并不特别在意高风险数学证明这个残酷的世界,也别忘了:下一个就轮到你所在的领域。
“数学界现在面临的问题,与其他科学和创造性职业面临的问题相似,也预示着全人类可能面临的问题:当 AI 改变工作方式时,我们如何确保不忘记这些工作最初是为了实现什么,”他们写道。
