OpenAI "모델 하나가 미해결 문제 100건을 풀었다". 영입된 수학자들이 맡은 것은 발표 방식이지 속도가 아니다

OpenAI는 9월 21일, 수학자 9명으로 구성된 독립 기구 '수학과 인공지능 자문 그룹(Advisory Group on Mathematics and Artificial Intelligence)'을 발족했다고 발표했다. 운영 거점은 프린스턴의 고등연구소(Institute for Advanced Study)에 둔다. 같은 글에서 회사는 이 그룹이 왜 필요했는지도 밝혔다.

8월 28일 우리는 새로운 사내 모델의 학습을 시작했다. 이 모델은 나비에–스토크스 밀레니엄 상 문제를 해결한 데 더해, 수학의 거의 모든 분야에 걸친 100건이 넘는 오랜 미해결 문제를 해결했다.

이 문장에 따라붙은 것은 아무것도 없다. 문제 목록도, 증명도, 어느 분야가 포함되는지에 대한 단서도 없다. 그룹 자체 사이트는 현재 과제를 "수학의 중요한 결과 다수를 어떻게 조율해 공개할지에 대해 OpenAI에 조언하는 일"이라고 적고 있다. 결과는 OpenAI 안에 있고, 회사는 건수만 세상에 알렸으며, 방금 영입된 수학자들의 첫 임무는 그것을 어떻게 내보낼지 정하는 일이다.

이 그룹은 무엇이고, 무엇이 아닌가

아홉 명은 프랑수아 샤를, 카밀로 데 렐리스, 티모시 가워스, 마르틴 하이러, 니킬 스리바스타바, 울리케 틸만, 라비 바킬, 에드워드 위튼, 멜라니 매쳇 우드다. 이 중 세 명은 필즈상 수상자이며, 데 렐리스는 이번 나비에–스토크스 주장이 놓이는 유체역학 연구 분야의 선두 인물 가운데 한 사람이다.

독립성은 그 범위 안에서는 실재한다. 구성원은 보수를 받지 않고, 그룹은 "어떤 AI 기업으로부터도 독립적으로 운영한다"고 밝히며, 요청 없이도 OpenAI가 수학에 미치는 영향을 논평할 수 있고, 권고한 내용을 공개한다. 동시에 "우리는 어떤 AI 기업에서도 의사결정 권한이 없으며, 각 기업이 내린 결정의 책임은 그 기업에 있다"고도 분명히 적었다. 실효성을 뒷받침하는 것은 아홉 명의 평판과 공개 웹사이트 하나뿐이다.

두 번째 이의에는 답했고, 첫 번째에는 답하지 않았다

9월 11일 필즈상 수상자 25명이 '수학에서 AI의 심각한 미스얼라인먼트(A Severe Misalignment of AI in Mathematics)'라는 제목의 선언을 발표했다. 첫머리의 주장은 구조적이다.

AI 기업의 목표와 수학 공동체의 목표는 심각하게 어긋나 있다.

반면 구체적인 비판은 절차에 관한 것이다.

이런 해답들은 흔히 서둘러 발표되며, 제대로 된 정리, 새로운 방법과 아이디어의 분리, 관련 선행 연구의 인용에 쓸 시간이 남지 않는다.

이번 자문 그룹은 두 번째 문장에는 정확히 답하고, 첫 번째에는 전혀 답하지 않는다. "수학적 결과의 책임 있는 제시와 공개"에 조언하는 기구는 바로 서두른 발표를 늦추기 위해 만들어진 것이다. 선언이 말한 어긋남은 양쪽이 무엇을 위해 존재하는가—한쪽에는 통찰, 다른 쪽에는 능력의 증명으로서의 해결된 문제—에 관한 주장이며, OpenAI는 그 질문을 이름을 들어 제외했다. 속도는 이 그룹이 책임지지 않는다고 명시된 유일한 주제다.

이 제외는 처음 보이는 것보다 범위가 좁고, 그래서 더 많은 것을 말해준다. OpenAI는 발표 방식은 양보했고 연구는 지켰다. 100건의 결과를 어떻게 공개할지 회사에 말할 수 있는 집단도, 90건만 만들라고는 말할 수 없다.

선언 서명자 가운데 마르틴 하이러는 이 그룹에 합류했다. 선언을 자신의 블로그에 싣고 서명한 테런스 타오는, 그룹 자신의 이번 발표를 게스트 글로 게재하면서 자기 글이 아니라는 편집자 주를 달았다.

아무도 조언하지 않는 쟁점

9월 8일 나비에–스토크스 발표가 불러온 것은 속도에 관한 이의만이 아니었다. Axios 보도에 따르면, 관련 유체역학 문제를 Anthropic 연구자 레벤트 알푀게와 함께 연구하던 뉴욕대 수학자 트리스탄 버크마스터는 OpenAI가 어떻게 이 문제에 이르렀는지, 두 사람이 Codex를 쓰면서 남긴 비공개 자료가 회사의 해답에 흘러들어간 것은 아닌지, 그리고 소속 기업을 이유로 알푀게를 저자에서 빼려는 압박이 있었는지에 대해 문제를 제기했다. 이는 주장이지 확정된 사실이 아니다.

그리고 모두 그룹의 설립 취지 밖에 있다. "책임 있는 제시와 공개"가 다루는 것은 결과가 밖으로 나올 때의 모습이다. 연구소가 어떤 문제를 공략할지 어떻게 정하는지, 자사 도구가 놓인 연구로부터 무엇을 취해도 되는지, 결과가 나왔을 때 누구 이름이 올라가는지에는 닿지 않는다. 더 어려운 충돌은 그쪽이고, 정중한 서한이 아니라 공개 고발을 낳은 것도 그쪽이며, 새 기구는 그것을 건드리라는 요청을 받지 않았다.

작동하고 있음을 보여줄 조건

판정은 짧고 가깝다. 그룹은 권고를 공개한다. 첫 100건이 증명과 선행 연구 인용, 인간 기여자 크레딧을 갖춘 목록으로 나온다면 이 장치는 무언가를 한 것이다. 건수가 나왔던 방식 그대로—숫자와 이름 없는 사내 모델과 날짜만으로—나온다면, 아홉 명의 수학자가 곧 이번 발표였던 셈이다.

출처: OpenAI: Advisory Group on Mathematics and Artificial Intelligence · Advisory Group on Mathematics and Artificial Intelligence (agmai.org) · Announcing the Advisory Group on Mathematics and Artificial Intelligence — guest post, What's new · TechCrunch: OpenAI forms math advisory group as its AI resolves more than 100 open problems · A Severe Misalignment of AI in Mathematics — What's new · OpenAI: On the Navier–Stokes Millennium Prize Problem · Axios: OpenAI's historic math solution overshadowed by credit controversy · Quanta Magazine: AI Has Solved One of Math's $1 Million Millennium Prize Problems · Scientific American: OpenAI claims blockbuster math breakthrough amid swirl of controversy