在将一系列惊人的数学成果变成一场声誉危机之后，OpenAI 正在咨询人类数学家，以帮助其找到一条不那么灾难性的前进道路。
OpenAI 希望就如何不再搞砸咨询顶尖数学家
“该小组将就新兴成果的评审与传播提供建议。”
“该小组将就新兴成果的评审与传播提供建议。”
周一，该公司宣布成立一个新的独立数学家小组，负责就与数学研究及更广泛数学界的互动向其及其他 AI 公司提供建议，包括新成果如何呈现和发布。该小组的突然成立让许多数学家感到意外。研究人员告诉 The Verge，该小组是良好的第一步，但许多人表示，他们对小组实际将做什么、将拥有多大影响力、OpenAI 是否会真正听取其意见等基本问题仍存疑问，同时也担心如此小规模的知名研究人员群体能否代表更广泛的数学界。
这个九人小组汇聚了研究人员向 The Verge 形容为该领域名人的成员，来自斯坦福、哈佛、牛津和剑桥等机构，其中多人拥有菲尔兹奖和麦克阿瑟“天才奖”。小组将由位于新泽西州普林斯顿的高等研究院（IAS）主办，该研究院是世界上最受尊崇的数学研究中心之一，也是阿尔伯特·爱因斯坦、约翰·冯·诺依曼和 J·罗伯特·奥本海默等人曾经的学术家园。
“另一个基本事实是，我们的总体目标是尽可能代表数学界的利益。”
OpenAI 表示，这个名为数学与人工智能咨询小组（AGMAI）的团体将独立运作，可以自由提出公司未要求的建议，公开评论其对数学的影响，并公开其建议，但未提供这可能涉及哪些细节。看来该小组将获得 OpenAI 研究的早期访问权，以完成其任务。OpenAI 表示，成员不会从 OpenAI 获得报酬，小组可自行决定更改成员。该公司表示：“其价值取决于成员能否行使自己的判断并挑战我们的判断。”“该小组将就新兴成果的评审与传播提供建议：他们将帮助 OpenAI 评估其重要性，就如何协调传播提供建议，并就数学研究的学术和专业标准提供建议。它还将就我们的工具如何支持数学研究和学习提供建议。”
尽管该组织一直强调独立性，但它究竟能产生多大影响，以及最初为何成立，仍不清楚。瑞士苏黎世联邦理工学院的研究员西蒙·马查多表示，整件事似乎“笼罩在神秘之中”，并质疑这九名成员是如何选出的。该组织简陋的网站称，它“是在OpenAI接触其部分成员、商讨成立一个外部咨询委员会之后走到一起的”，但在与该公司讨论后，这些数学家决定转而发起一个独立组织，并邀请其他人加入。目前尚不清楚哪些成员最初被OpenAI接触，也不清楚其余成员是如何选出的。
在周二发布的一篇博客文章中，咨询组成员马丁·海雷尔详细阐述了该组织的起源及其背后的思考，以回应他所说的围绕其成立过程的“大量错误信息”。他写道：“显而易见，人工智能已经对数学研究产生了深远影响，并引发了诸多关于思想正确归属、优先权、人类对思想的理解等问题。”他还说，数学界“采取一种强硬‘鸵鸟’式做法，即干脆无视人工智能实验室并原则上拒绝与其对话”，是没有意义的。
海雷尔承认该组织是在OpenAI主动接触后成立的，但强调并非所有成员都被该公司联系过，而且最终成立的组织“真正独立于OpenAI以及任何其他所谓的‘前沿’人工智能实验室”。他说，除了“显而易见的保密要求”外，成员们没有签署任何限制其公开言论的协议，并补充说他们没有获得经济报酬，技术支持则依靠IAS。
海雷尔写道：“另一个基本事实是，我们的总体目标是尽可能好地代表数学界的利益。”海雷尔是伦敦帝国理工学院和洛桑瑞士联邦理工学院（EPFL）的数学教授。虽然他指出该组织很难说是数学界的代表性样本，但他说自己“绝对确信我们九个人都极其认真地对待这件事，并且是本着善意行事”。
无论成员是如何选出的，该组织目前由一批学术数学家精英组成。考虑到在数学前沿工作所需的高度专业化的技能和知识，其规模之小进一步引发了疑问：该组织是否具备评估所有提交给它的内容所需的广泛专业知识。
苏格兰赫瑞瓦特大学即将入职的数学教授弗朗切斯科·富尼耶-法西奥形容自己对这一专家小组相当“矛盾”，称与数学家加强接触“只会让事情变得更好”。但他质疑，这个群体是否充分代表了那个工作和生计正被OpenAI追逐数学奖杯的企图所颠覆的群体。他对The Verge说：“感觉像一座象牙塔。”
马查多同样质疑，该小组成员是否充分理解、或能够代表更广泛的数学界在AI问题上的关切。“他们是了不起的数学家，但我不知道他们是不是我想在更具政治性的问题上代表我的人，”他说。对于像他们这样处于精英位置的数学家，马查多说，“我认为他们面对的现实与大多数数学家目前面对的现实非常不同。”
该小组能否赢得数学家的信任，最终将决定它在遏制OpenAI近期一系列公布结果时的失误所引发的后果方面能有多有效，更重要的是，能否为该公司接下来计划宣布的任何内容减轻冲击。海雷尔在其博客中表示，成员们如果“天真地相信AI实验室不会试图以适合其公关机器的方式曲解我们所说的任何话，那就太天真了，而他们的公关机器远非我们所能企及。”
尽管如此，海雷尔认为，既然OpenAI似乎正在做出努力，尤其是在如此多人批评该公司的行为和糟糕沟通之后，现在不参与将是虚伪的。他说，该小组尚未确定打算提供的建议，但它正在回应一个明确的问题：“事实是，AI公司近几个月来产生了一些备受瞩目的数学成果，而它们的发表和传播远远达不到可接受的数学实践标准，无论这一标准如何定义。”
“我们目前面临的非常具体的挑战是，就如何协调发布大量重要数学成果向OpenAI提供建议，他们报告称这些成果由其内部模型产生。”
海雷尔表示，目前该小组正通过与同事的对话、一个公开的反馈表以及在Proofs and Prompts上的讨论来收集意见。该博客已成为数学家应对AI对该领域影响的关键论坛。
但该小组最大的挑战可能还在后头。在宣布该咨询小组时，OpenAI轻描淡写地透露，其新的、尚未发布的模型——正是解决了纳维-斯托克斯千禧年大奖难题的那个模型——现已“解决了数学大多数领域中100多个长期未决问题”。该公司此前曾表示，它正在接近解决另一个千禧年大奖难题。该小组在其网站上表示，处理这一积压问题是其首要任务：“我们目前面临的非常具体的挑战是，就如何协调发布大量重要数学成果向OpenAI提供建议，他们报告称这些成果由其内部模型产生。”
在一定程度上，这项接触数学家的新努力是对其尝试所造成的一场巨大公关灾难的承认。在那场灾难中，该公司发现自己忙于反驳抢发研究人员成果的指控，未能对其模型所依赖的人类工作给予署名，甚至从使用其模型的人那里窃取。这些争议让许多数学家怀疑，该公司是否理解——甚至尊重——它贸然闯入的这门学科和这个群体。
过去几个月里，关于数学家们想要什么已经写了太多，伦敦帝国理工学院的数学教授凯文·巴扎德想知道，为什么 OpenAI 觉得需要一个如此精英的机构来理解社区的需求。“这不是关于困难定理的证明，而是关于更好地理解我们的学科，”他说。“我不太清楚你是否需要一个由杰出人士组成的委员会来把这一点讲清楚。”
关注本故事中的主题和作者，以便在您的个性化主页推送中看到更多类似内容，并接收电子邮件更新。