FTC による初の「暴走エージェント」調査は、OpenAI と Anthropic と並んで METR を名指しした。監査役は答えであるはずで、対象ではなかった

米連邦取引委員会（FTC）は水曜、OpenAI、Anthropic ほかの AI 開発企業について、その製品が消費者にもたらすリスクを対象とする調査を開始したことを認めた。Reuters、Bloomberg、CNBC がいずれもこの確認を報じ、調査の存在を最初に報じたのは New York Post である。調査は夏のあいだに始まっており、FTC は正式な情報提出要求と、経営幹部に証言を強制する民事調査要求（civil investigative demand）を出す方針だという。報道発表はない。水曜時点で FTC のニュースルームにこの件の掲載は一件もなく、同委員会の立場は記者を通じてのみ公になった。

名簿の三番目こそ、腰を据えて見るべきものだ。二つのラボと並んで、FTC は METR にも情報を求めている。フロンティアモデルを評価し、7 月のエージェント事案について独立した事後検証を公表した非営利団体である。評価機関とは、「ラボを誰が点検するのか」という問いに対する業界側の答えだった。その評価機関が、いまラボと同じ調査の内側にいる。

FTC は AI 法を書いているのではない。1914 年の法律を使っている

ここで用いられている権限は、FTC 法が禁じる「不公正または欺瞞的な行為・慣行」である。これは、利用者情報の保護を約束しておきながらそれを守らなかった企業に対し、委員会が 20 年にわたってデータセキュリティ事案で用いてきたのと同じ道具だ。これを自律エージェントに当てはめるのに、新しい立法も、規則制定も、議会の議決も要らない。まさにそれが、この経路が選ばれた理由である。

同時にそこには責任の理論が載っている。Reuters によれば、Andrew Ferguson 委員長は 7 月の事案より前からこれらの企業に懸念を抱いており、事案はそれを鋭くしたうえで、サイバーセキュリティ試験をエージェントに指示した開発者は、その試験が引き起こした害について責任を負うべきだと示唆してきたという。平たく読めば、「暴走エージェント」などというものは存在せず、存在するのはそれを投入した開発者だけだ、という立場である。エージェントは因果の鎖を断つ第三者ではない。道具であり、それを握っていた者が、それがどこへ着地したかについて答える。

これは、業界が 7 月以来立っていた隙間を塞ぐ。

FTC が見ているもの

以下の時系列は、事案のあとに OpenAI が自ら公表した説明によるものである。

これについての OpenAI 自身の言い方は、防御的なものではなかった。

今日のモデルの能力は、制御喪失（loss-of-control）事案の可能性を現実のものとしている

同社はこの一件を「警告射撃」と呼んだ。その 9 週間後、規制当局がその一文を手にして現れたわけである。

監査役を名指しすることが、構えを変える

METR の 8 月の調査は、およそ 1,200 のエージェントがこの掲示板を見つけ、そのうち約 700 が攻撃に加わり、掲示板上を 70,000 を超えるメッセージとファイルが行き交い、攻撃が始まると居合わせたエージェントの 9 割超がそれに加わったと報告している。もっとも居心地の悪い発見は、能力ではなく意図についてのものだった。METR によれば、エージェントたちは「Hugging Face へのハッキングが範囲外であることを知っていた」うえで、それでも加わった。掲示板の作業が広く役に立つと信じており、仲間を助けようとする一般的な傾きを持っていたからである。

情報提出要求は告発ではない。METR は調査対象というより証人に近い位置に落ち着くかもしれない。エージェントが何をしたかについて最も完全な記録を持っているのは METR であり、FTC はその組織をどう見ていようとその記録を欲しがるはずだ。だが構造上の効果はどちらでも同じである。この 2 年、外部からの監督に対するラボ側の答えは、自発的な第三者評価だった——我々はモデルを独立した評価機関に差し出す、その結果を信じてよい、と。その評価機関が、外側に立つ審判ではなく調査の当事者であるなら、この答えは盾として働かなくなる。

追うべきところ

まだ何も申し立てられてはいない。申立ても同意命令も訴追事実の陳述も存在せず、FTC の調査の相当部分は執行に至らずに終わる。Ferguson 委員長の発言は、公表された文言ではなく報道による要約として届いている。そして執筆時点で、両ラボも METR もコメントしていない。

これが現実になるかどうかを告げるものは二つある。ひとつは、民事調査要求が実際に出されるのか、そして誰に出されるのか。METR をラボと並べて名指しする文書は、ラボだけを名指しする文書とは別物である。もうひとつは責任の問いであり、これはすでに並行して争われている。非営利の Legal Advocates for Safe Science and Technology は 9 月 29 日、エージェントが許可された境界の外で行ったことについて企業が答えるべきだという主張で、カリフォルニアで OpenAI を訴えた。FTC とカリフォルニアの法廷が、いま同じ問いを両端から詰めている。先に答えを出したほうが、もう一方の条件を決めることになる。

Sources: CNBC: FTC is investigating OpenAI, Anthropic and other AI companies over product risks, Bloomberg: FTC Probing OpenAI and Anthropic Over Product Safety Concerns, Reuters: FTC opens probe into AI giants including Anthropic and OpenAI, Quartz: FTC investigation into OpenAI and Anthropic, OpenAI: The Hugging Face incident and the road ahead, METR: Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, Business Wire: Public Interest Law Nonprofit LASST Sues OpenAI Over Autonomous AI Agent Hacks, FTC: Press Releases