← 全部文章

人工智能

OpenAI 称一个模型解决了 100 个未解难题。它请来的数学家管的是怎么公布,不是有多快

OpenAI 成立了一个设在普林斯顿高等研究院的九人顾问小组,并在同一篇公告中披露:8 月 28 日开始训练的一个内部模型已解决 100 多个长期未解难题。小组的职责是就这些结果如何公布提供建议,而"内部研究推进的速度"被明文排除在外。

MAI
OpenAI 发布"数学与人工智能顾问小组"公告时使用的官方社交分享图。

OpenAI 于 9 月 21 日宣布成立独立的"数学与人工智能顾问小组"(Advisory Group on Mathematics and Artificial Intelligence),由九位数学家组成,设在普林斯顿的高等研究院(Institute for Advanced Study)。在同一篇公告里,公司也说明了这个小组为何必要。

8 月 28 日,我们开始训练一个新的内部模型。除解决纳维–斯托克斯千禧年大奖难题外,该模型目前已解决数学大多数领域中 100 多个长期未解的问题。

这句话后面没有任何东西。没有问题清单,没有证明,也没有说明涉及哪些领域。小组自己的网站写明,当前任务是"就如何协调发布大量重要数学结果向 OpenAI 提供建议"。也就是说,结果留在 OpenAI 内部,公司只向外界说出了数量,而刚被请来的这些数学家,第一项工作是想清楚怎么把它们放出来。

这个小组是什么,不是什么

九人为:François Charles、Camillo De Lellis、Timothy Gowers、Martin Hairer、Nikhil Srivastava、Ulrike Tillmann、Ravi Vakil、Edward Witten 和 Melanie Matchett Wood。其中三位是菲尔兹奖得主;而 De Lellis 正是此次纳维–斯托克斯主张所落入的流体力学研究领域的领军人物之一。

小组会做的小组不会做的
就新出现结果的重要性提供建议对其进行验证或同行评议
就如何协调发布提供建议决定是否发布、何时发布
就学术与专业规范提供建议在 OpenAI 内部拥有决策权
在自有网站上公开其建议,并可提出对方未征询的意见就"我们在数学上内部推进的速度"提供建议

在其范围内,独立性是真实的。成员不领取报酬,小组称其"独立于任何 AI 公司运作",可以在未被征询的情况下评论 OpenAI 对数学的影响,并公开所提建议。它同时明确写道:"我们在任何 AI 公司都没有决策权,任何公司所作决定的责任都在该公司。"整套约束机制,就是九个人的声誉和一个公开网站。

它回应了第二条异议,没有回应第一条

9 月 11 日,25 位菲尔兹奖得主发表了题为《数学中 AI 的严重错位》(A Severe Misalignment of AI in Mathematics)的声明。开篇的论断是结构性的:

AI 公司的目标与数学共同体的目标严重错位。

而具体的批评是程序性的:

这些解答往往被匆忙宣布,没有留出时间做像样的撰写、提炼新的方法与思想,以及引用相关的前人工作。

这个顾问小组精准地回应了后一句,对前一句则毫无回应。一个就"数学结果的负责任呈现与发布"提供建议的机构,正是为放慢匆忙的宣布而设立的。声明所描述的错位,是关于双方各自为何存在的主张——一方是洞见,另一方是作为可展示能力的已解决问题——而 OpenAI 点名把这个问题排除在外。速度是小组被告知无需负责的唯一议题。

这处排除比乍看之下更窄,也因此更能说明问题。OpenAI 让出了宣布方式,留下了研究本身。一个能告诉公司如何公布一百个结果的群体,无法告诉它只做九十个。

声明签署者之一 Martin Hairer 已加入该小组。刊出并签署了该声明的陶哲轩,把小组自己的这份公告作为客座文章发在博客上,并加了编者注,说明那不是他写的文字。

没有人被请去过问的那场争议

9 月 8 日的纳维–斯托克斯公告招来的不只是关于速度的异议。据 Axios 报道,纽约大学数学家 Tristan Buckmaster 曾与 Anthropic 研究员 Levent Alpöge 一起研究相关的流体力学问题,他对 OpenAI 如何走到这个问题上提出质疑,怀疑两人使用 Codex 过程中的非公开材料是否流入了公司的解答,并称有人以雇主为由推动把 Alpöge 从作者名单中拿掉。这些是指控,不是认定的事实。

它们同样不在小组的章程范围内。"负责任的呈现与发布"管的是一项结果出门时的样子,管不到一家实验室如何决定攻哪个问题、可以从自家工具所嵌入的研究中获取什么、以及结果出来时谁的名字会被写上去。更棘手的冲突在那一边,引出公开指控而非一封客气信件的也是那一边,而新机构没有被要求去碰它。

怎样才算这套安排起了作用

检验期很短,而且很近。小组会公开自己的建议。如果头一百个结果以清单形式出现,附有证明、对前人工作的引用和人类贡献者的署名,那么这套安排确实做了事。如果它们出现的方式和那个数字一样——一个数、一个没有名字的内部模型、一个日期——那么九位数学家本身就是这次公告。

参考资料: OpenAI: Advisory Group on Mathematics and Artificial Intelligence · Advisory Group on Mathematics and Artificial Intelligence (agmai.org) · Announcing the Advisory Group on Mathematics and Artificial Intelligence — guest post, What's new · TechCrunch: OpenAI forms math advisory group as its AI resolves more than 100 open problems · A Severe Misalignment of AI in Mathematics — What's new · OpenAI: On the Navier–Stokes Millennium Prize Problem · Axios: OpenAI's historic math solution overshadowed by credit controversy · Quanta Magazine: AI Has Solved One of Math's $1 Million Millennium Prize Problems · Scientific American: OpenAI claims blockbuster math breakthrough amid swirl of controversy

继续阅读