アモデイは業界に協調を求めた。協調は7月から始まっていた

月曜、The Informationは、Anthropic、OpenAI、Googleのワーキンググループが少なくとも7月から定期的に会合を重ね、フロンティアAIのための業界主導の標準機関——モデルを出荷する前に試験し監査する仕組み——について協議してきたと報じた。The Washington Postも同じ協議を報じている。いずれも協議の事情に詳しい関係者に基づくもので、どの企業も公式には何も認めていない。これは発表ではなく報道として読むべきものだ。

もしこの報道が正しければ、週末に起きたことの意味は変わる。ダリオ・アモデイの「We Must Pace the Frontier」、サム・アルトマンの同調、そして棚上げされたOpenAIのIPOは、協調の取り組みの始まりではなかった。すでに存在していた取り組みが表に出た瞬間だった。

報じられたこと、報じられていないこと

構想されている機関は、共通の安全基準を定め、フロンティアモデルの出荷前評価を実施し、その結果を、モデルを作った企業の外部に置くことになる。ワーキンググループは先週も会合を持ったと報じられている。一方で報じられていないのは、合意された設立趣意書、資金、具体的な参加者の名前、そして気に入らない評価結果に従うという、いずれかの研究所による約束である。

この欠落は重要だ。三社が同じ機関を望んでいるようには見えないからである。

三つの設計、一つの問いへの三つの答え

ハサビスは7月14日、フロンティアモデルを試験する独立した標準機関を求め、FINRAとの比較を公の場で示した。アモデイの論考は、同じ構想についてより慎重だ。

「双方がリリース前に急性リスクについてモデルを試験するという合意は……グローバルな標準機関を通じて実現しうる。私は実際、そうした機関を作ること自体は十分可能だと考えている。ただ、それに実効性を持たせるのは難題になるだろう。」

The Informationが伝える社内全体会議の内容によれば、アルトマンは、米政府の後ろ盾なしに研究所自身がそうした機関を作らなければならない、と社員に語ったという。

これらは同じ提案の三つの味付けではない。標準機関が実際に機能するかどうかを決める唯一の問い——試験結果が悪かったとき、「ノー」と言う権限を誰が持つのか——に対する、三つの異なる答えである。アモデイの答えは規制当局だ。ハサビスの答えは、連邦の後ろ盾を持つ自主規制機関である。アルトマンの答えは、いまのところ「誰もいない」だ。

独占禁止法の問題は、提案そのものに書かれている

ここでの障害は秘密主義ではない。アモデイ自身が名指ししている。

「独占禁止法上の理由から、こうした議論を米政府が仲介するか、少なくとも可能にすることが有用だ。政府が参加する必要はないが、特定の種類の安全に関する協議について、狭い適用除外を発行する必要がある。」

これは、競合他社どうしが自らの産出の速度と方法について合意することへの、許可の要請である。それが正しい判断である可能性は十分にある。しかし構造的には、競争法がまさに防ぐために存在している行為でもある。だからこの計画はワシントン抜きには実行できない——そしてワシントンはいま、反対方向を向いている。

AIの自主規制機関を設立する大統領令の草案が政権内で回覧され、内部の反対によって停滞していると報じられている。大統領自身の立場は週末のアイルランドで示された。AI開発にさらなる歯止めをかける必要性を否定し、こう述べている。「だが、AIで勝った者が勝つのだ。」Cohereのエイダン・ゴメスは9月13日、この協調の動きを「羊の皮をかぶった狼、名前を変えただけのカルテル」と呼んでいる。

フォーラムはすでに存在する

Frontier Model Forumは2023年7月、Anthropic、Google、Microsoft、OpenAIによって設立された。安全基準を策定し、政府と情報を共有することを任務としている。現在はAmazon、Anthropic、Google、Meta、Microsoft、OpenAIを会員として挙げている。

今回報じられた協議に関わっているのは、その6社のうち3社だ。この欠落こそが、この報道で最も多くを語る点である。Microsoftは月曜、自社のMAIモデル向け行動規範を公開し、6週間のパブリックコンサルテーションを開始することに費やした——共同の文書ではなく、単独の文書である。Metaは規制への転回そのものに抵抗してきた。そしてThe Informationによれば、OpenAIとAnthropicは、MetaやxAIを含む競合他社にも適用される一貫した連邦審査基準を、それぞれ別個に政権へ働きかけてきた。

すでにある安全機関よりも狭い安全機関は、業界を協調させる試みが主眼ではない。自らをフロンティアと任じる研究所が、フロンティアの定義権を握り、部屋の外にいる企業が越えなければならない基準を設ける試みである。

何を見るべきか

これを報道から事実に変えるものは四つある。いずれかの企業が協議を公式に認めること。大統領令が動くか、死ぬか。会員名簿が3社より長くなること。そしていずれ、評価結果を理由に実際にモデルのリリースが差し止められること。それまでは、正直な描写はこうなる。米国最大のAI企業各社は、どこも拘束されることに同意していない機関について、2か月間議論してきた。

参考資料: The Washington Post: Anthropic, OpenAI and Google discussed creating new AI safety body · PYMNTS: Google, OpenAI and Anthropic float idea of AI standards body · Quartz: Anthropic, Google and OpenAI discussed a shared AI standards body · Dario Amodei, "We Must Pace the Frontier" · CNBC: Google DeepMind chief Demis Hassabis calls for U.S. to spearhead AI standards body · TechCrunch: DeepMind CEO calls for an independent standards body to regulate frontier AI · PBS NewsHour: Trump downplays the need to check AI development · Aidan Gomez, Cohere: Who gets to define the rules for AI · Microsoft AI: Humanist AI in practice — a public consultation on our Code of Conduct for MAI Models · Frontier Model Forum · Seoul Economic Daily: Rivals unite — Anthropic, OpenAI, Google push AI standards body