数学与人工智能咨询小组
8月28日,我们开始训练一个新的内部模型。除了解决纳维-斯托克斯千禧年大奖难题之外,该模型现已解决了数学大部分领域中超过100个长期未解决的开放问题。其在数学领域的进展速度令OpenAI内部数学家感到惊讶。这引发了内部讨论,探讨如何以最佳方式告知社区这一快速进展,以便该领域做好准备并适应。
数学是一门基础科学,新发现可能带来广泛的应用。这使得这些能力的前景十分巨大,其负责任的发展和部署的重要性超越了数学本身。我们认识到这一点,并正在研究如何负责任地更广泛部署与数学相关的人工智能能力。
在最近的一封公开信“人工智能在数学中的严重错位(在新窗口中打开)”中,数学家们对将解决开放问题作为新人工智能系统基准的负面外部性表示担忧。
他们的批评凸显了人工智能公司与数学界进行深思熟虑接触的必要性。为此,我们正与已建立一个独立数学咨询小组的数学家们合作。该小组将作为通往数学界和更广泛公众的桥梁,让数学家在我们前进的方向上拥有发言权。
该小组将就新兴成果的审查和传播提供建议:他们将帮助OpenAI评估其重要性,就如何协调其传播提供建议,并就数学研究的学术和专业标准提供建议。它还将就我们的工具如何支持数学研究和学习提供建议。我们希望将强大的工具交到数学家手中,以便他们能够探索自己最了解的问题并发展新想法。
该小组将独立于OpenAI运作。小组将自由提供我们未请求的建议,评论OpenAI对数学的影响,并公开其建议。其价值取决于其成员能够行使自己的判断并挑战我们的判断。其成员不会由OpenAI支付报酬,小组可以根据自身认为合适的方式更改其成员。重要的是,该小组不负责就如何调整我们在数学方面的内部进展步伐向我们提供建议。
与该小组合作是第一步。未来还有艰难的问题,关于人工智能如何支持数学理解,以及这些能力的好处如何惠及更广泛的社区。我们希望数学家处于塑造答案的中心。
数学与人工智能咨询小组(在新窗口中打开)的初始成员,由高等研究院(在新窗口中打开)主办:
François Charles (ENS-PSL)
Camillo De Lellis (IAS, GSSI)
Timothy Gowers (Collège de France, Cambridge)
Martin Hairer (EPFL, Imperial College London)
Nikhil Srivastava (Berkeley, Simons Institue)
Ulrike Tillmann (Oxford, INI)
Ravi Vakil (Stanford)
Edward Witten (IAS)
Melanie Matchett Wood (Harvard)
