8 月 28 日,我们开始训练一个新的内部模型。除了解决了 Navier–Stokes 千禧年大奖难题之外,该模型现在已解决了数学大多数领域中 100 多个长期悬而未决的问题。它在数学上的进展速度让 OpenAI 内部的数学家也感到惊讶。这引发了内部讨论:如何以最好的方式向学界通报这一快速进展,使这一领域做好准备并适应变化。
数学是一门基础科学,新的发现可能带来广泛的应用。这使这些能力的前景十分可观,也使其负责任的开发与部署的意义超出数学本身。我们认识到这一点,并正在研究如何以负责任的方式更广泛地部署与数学相关的 AI 能力。
在最近的一封公开信《A Severe Misalignment of AI in Mathematics》中,数学家们指出,把解决未解难题作为新 AI 系统的基准测试,会带来负面外部性,并对此表达了担忧。
这些批评凸显出 AI 公司需要与数学界进行审慎的互动。为此,我们正在与已成立独立数学咨询小组的数学家们合作。该小组将成为连接数学界和更广泛公众的桥梁,让数学家在我们如何前行的问题上拥有发言权。
该小组将就新出现成果的审查与沟通提供建议:协助 OpenAI 评估这些成果的重要性,就如何协调其传播提供建议,并就数学研究的学术和职业标准提供建议。它还将就我们的工具如何支持数学研究和学习提供建议。我们希望把得力的工具交到数学家手中,让他们能够研究自己最熟悉的问题,并发展新的想法。
该小组将独立于 OpenAI 运作。小组可以自由地提出我们并未请求的建议、评论 OpenAI 对数学的影响,并公开其建议。它的价值取决于其成员能否行使自己的判断,并对我们的判断提出质疑。成员不会由 OpenAI 支付报酬,小组也可以自行调整成员构成。重要的是,该小组不负责就我们如何掌控自身在数学方面的内部进展节奏向我们提供建议。
与该小组合作只是第一步。前方还有一些困难的问题:AI 如何支持对数学的理解,以及这些能力带来的益处如何惠及更广泛的群体。我们希望数学家处于塑造答案的中心。
由普林斯顿高等研究院(Institute for Advanced Study)主办的 数学与人工智能咨询小组(Advisory Group on Mathematics and Artificial Intelligence)首批成员:
- François Charles (ENS-PSL)
- Camillo De Lellis (IAS, GSSI)
- Timothy Gowers (Collège de France, Cambridge)
- Martin Hairer (EPFL, Imperial College London)
- Nikhil Srivastava (Berkeley, Simons Institue)
- Ulrike Tillmann (Oxford, INI)
- Ravi Vakil (Stanford)
- Edward Witten (IAS)
- Melanie Matchett Wood (Harvard)
