아모데이는 업계에 협력을 요구했다. 협력은 이미 7월부터 진행 중이었다

월요일 The Information은 Anthropic, OpenAI, Google의 워킹그룹이 늦어도 7월부터 정기적으로 만나 프론티어 AI를 위한 업계 주도 표준기구 — 모델을 출시하기 전에 시험하고 감사하는 구조 — 를 논의해왔다고 보도했다. The Washington Post도 같은 논의를 전했다. 두 보도 모두 논의 내용을 아는 관계자에 근거한 것이고, 어느 회사도 공식적으로 확인하지 않았다. 발표가 아니라 보도로 읽어야 하는 내용이다.

보도가 사실이라면 주말에 벌어진 일의 의미가 달라진다. 다리오 아모데이의 'We Must Pace the Frontier', 샘 올트먼의 동조, 그리고 미뤄진 OpenAI의 IPO는 협력의 시작이 아니었다. 이미 진행되던 협력이 공개된 순간이었다.

보도된 것과 보도되지 않은 것

구상된 기구는 공통의 안전 기준을 정하고, 프론티어 모델의 출시 전 평가를 수행하며, 그 결과를 모델을 만든 회사 바깥에 두게 된다. 워킹그룹은 지난주에도 만난 것으로 전해진다. 반면 보도되지 않은 것은 합의된 설립 헌장, 자금, 참여자의 실명, 그리고 마음에 들지 않는 평가 결과에 따르겠다는 어느 연구소의 약속이다.

이 공백이 중요하다. 세 회사가 같은 기구를 원하는 것으로 보이지 않기 때문이다.

세 가지 설계, 하나의 질문에 대한 세 가지 답

허사비스는 7월 14일 프론티어 모델을 시험할 독립 표준기구를 요구하며 FINRA 비유를 공개적으로 제시했다. 아모데이의 글은 같은 구상에 대해 더 조심스럽다.

"양측이 출시 전에 급성 위험에 대해 모델을 시험한다는 합의는… 글로벌 표준기구를 통해 이뤄질 수 있다. 나는 그런 기구를 만드는 일 자체는 충분히 가능하다고 본다. 다만 거기에 실질적인 이빨을 달아주는 것은 어려운 과제가 될 것이다."

The Information이 전한 사내 전체회의 내용에 따르면, 올트먼은 미국 정부의 뒷받침 없이 연구소들이 직접 그런 기구를 만들어야 할 것이라고 직원들에게 말했다.

이것들은 같은 제안의 세 가지 변주가 아니다. 표준기구가 실제로 무언가를 하는지 여부를 결정하는 단 하나의 질문 — 시험 결과가 나쁘게 나왔을 때 "안 된다"고 말할 권한을 누가 갖는가 — 에 대한 세 가지 다른 답이다. 아모데이의 답은 규제기관이다. 허사비스의 답은 연방의 뒷받침을 가진 자율규제기구다. 올트먼의 답은, 지금으로서는 아무도 아니다.

반독점 문제는 제안문 안에 적혀 있다

여기서 걸림돌은 은밀함이 아니다. 아모데이가 직접 이름을 붙인다.

"반독점 문제 때문에, 미국 정부가 이런 논의를 중재하거나 최소한 가능하게 해주는 것이 도움이 된다. 정부가 참여할 필요는 없지만, 특정 종류의 안전 관련 협의에 대해 좁은 면제를 발부할 필요는 있다."

이는 경쟁사들끼리 자기 산출의 속도와 방식을 합의하는 데 대한 허가 요청이다. 그것이 옳은 판단일 가능성은 충분히 있다. 그러나 구조적으로는 경쟁법이 막기 위해 존재하는 바로 그 행위이기도 하다. 그래서 이 계획은 워싱턴 없이는 실행될 수 없고, 워싱턴은 지금 반대 방향을 가리키고 있다.

AI 자율규제기구를 설립하는 행정명령 초안이 행정부 내부에서 회람되다가 내부 반대로 멈춰 섰다고 전해진다. 대통령 자신의 입장은 주말 아일랜드에서 드러났다. 그는 AI 개발에 추가적인 제동이 필요하다는 주장을 일축하며 이렇게 말했다. "하지만 AI에서 이기는 쪽이 이긴다." Cohere의 에이단 고메즈는 9월 13일 이 협력 움직임을 "양의 탈을 쓴 늑대, 이름만 바꾼 카르텔"이라고 불렀다.

포럼은 이미 존재한다

Frontier Model Forum은 2023년 7월 Anthropic, Google, Microsoft, OpenAI가 설립했다. 안전 기준을 마련하고 정부와 정보를 공유하는 것이 그 임무다. 현재 회원사로는 Amazon, Anthropic, Google, Meta, Microsoft, OpenAI가 올라 있다.

이번에 보도된 논의에 관여한 곳은 그 여섯 중 셋이다. 이 누락이 이 보도에서 가장 많은 것을 말해주는 대목이다. Microsoft는 월요일을 자사 MAI 모델용 행동강령을 공개하고 6주간의 공개 의견수렴을 여는 데 썼다. 공동 문서가 아니라 단독 문서다. Meta는 규제로의 전환 자체에 저항해왔다. 그리고 The Information에 따르면 OpenAI와 Anthropic은 Meta와 xAI를 포함한 경쟁사에도 적용될 일관된 연방 심사 기준을 각각 따로 행정부에 요구해왔다.

이미 있는 안전기구보다 좁은 안전기구는, 업계를 조율하려는 시도가 주된 목적이 아니다. 스스로를 프론티어라고 여기는 연구소들이 프론티어의 정의권을 쥐고, 방 밖에 있는 회사들이 넘어야 할 기준을 세우려는 시도다.

무엇을 볼 것인가

이것을 보도에서 사실로 바꾸는 것은 네 가지다. 어느 한 회사가 논의를 공식 확인하는 것. 행정명령이 움직이거나 죽는 것. 회원 명단이 셋보다 길어지는 것. 그리고 언젠가, 평가 결과를 이유로 모델 출시가 실제로 보류되는 것. 그전까지 정직한 서술은 이렇다. 미국 최대의 AI 기업들은 어느 곳도 구속되기로 동의하지 않은 기구를 두고 두 달을 논의해왔다.

출처: The Washington Post: Anthropic, OpenAI and Google discussed creating new AI safety body · PYMNTS: Google, OpenAI and Anthropic float idea of AI standards body · Quartz: Anthropic, Google and OpenAI discussed a shared AI standards body · Dario Amodei, "We Must Pace the Frontier" · CNBC: Google DeepMind chief Demis Hassabis calls for U.S. to spearhead AI standards body · TechCrunch: DeepMind CEO calls for an independent standards body to regulate frontier AI · PBS NewsHour: Trump downplays the need to check AI development · Aidan Gomez, Cohere: Who gets to define the rules for AI · Microsoft AI: Humanist AI in practice — a public consultation on our Code of Conduct for MAI Models · Frontier Model Forum · Seoul Economic Daily: Rivals unite — Anthropic, OpenAI, Google push AI standards body