OpenAIが安全性研究者3人を社外への情報共有で解雇。うち1人は外部調査の社内窓口だった

OpenAIは10月1日、安全性組織に属する3人を、社内の機密情報を不適切に取り扱ったことを理由に解雇したと認めた。最初に報じたのはウォール・ストリート・ジャーナルである。OpenAIの声明は解雇の事実を認めた一方で、3人の氏名も、情報が渡ったとされる外部組織の名前も、その情報が何であったかも明らかにしていない。

この3つの空白と、すでに公になっている事実との落差が、この一件の本質である。WSJの報道を伝えた複数の媒体は、3人をJasmine Wang、Tomek Korbak、Mikita Balesniとしており、うち2人はアラインメント研究に携わっていたという。同じ報道を扱ったTechCrunchは、ソーシャルメディア上で流れている氏名を独自に確認することはできなかったとしている。OpenAI自身はいかなる氏名も確認していない。Cybernewsは、情報の受け取り手をMETR——フロンティアモデルの自律的能力を評価する非営利団体——と特定し、3人のうち1人が、METRによるHugging Face事件の調査においてOpenAI側の技術窓口を務めていたと報じている。

これが正しいとすれば、OpenAIは外部評価者と話すために自ら任命した人物を、外部評価者と話したことを理由に解雇したことになる。

会社が実際に述べたこと

当社の機密情報へのアクセスおよび取り扱いに関する方針に違反したため、3名と袂を分かった。

広報担当者はさらに、調査により「これらの個人が、確立された社内手続きの外で機密情報を不適切に扱い、当社の方針に違反し、業務に不可欠な信頼を損なったことが確認された」と述べている。

よく読めば、これは手続きに関する主張であって、内容に関する主張ではない。情報が渡ってはならない先に渡ったとは一言も言っていない。経路が誤っていた——確立された手続きの外だった——と言っているのである。一般的な企業の情報流出であれば、この区別は実務上ほとんど意味を持たない。しかし、成果が外部にとって検証可能であることを前提とする安全性組織においては、経路そのものが問題のすべてだ。

会社自身が招き入れた評価者

METRの関与は敵対的なものではなかった。8月、METRはOpenAIとの合意に達し、Redwood Researchとともに「Hugging Face事件で観測されたモデル挙動」について独立したレビューを実施すると発表し、契約条件、対象範囲、暫定的な結論を公表するとしていた。8月26日に公表されたそのレビューは、METR自身の説明によれば、METRの職員2名とRedwoodの契約者1名が担当した短期の調査だった。当時から、事件の規模に対して範囲が狭すぎるとの批判があった。METR代表のChris Painterは9月30日、この事件について米上院で証言している。

つまり順序はこうだ。会社が外部レビューに合意し、それを短く抑え、短く抑えたことで批判を受け、そして外部の安全性団体に誤った経路で情報を渡したとして職員を解雇した。

前例こそが本題である

これが初めてではない。2024年、OpenAIはLeopold AschenbrennerとPavel Izmailovを情報漏洩の疑いで解雇した。Aschenbrennerは、安全性とセキュリティに関する文書を外部の研究者と共有した後に解雇されたと公言している。いまOpenAIの安全性研究者が合理的に導ける教訓は、外部評価者との共有は会社が経路を認めている限りは許されるが、認めていなければキャリアを終わらせる——そしてどちらであったかは事後に会社が決める、というものだ。

これは、すでに進行中の規制手続きに直接影響する。FTCの暴走エージェント調査は、OpenAIとAnthropicと並んでMETRを名指ししている。Implicator.aiは、カリフォルニア州司法長官が9月30日に召喚状を発したと報じている。これらの手続きはいずれも、第三者が各ラボの内側から正確な情報を得られることに依存している。導管を断っても調査は止まらない。届く中身が変わるだけである。

政治的な反応は即座だった。グレッグ・カサー下院議員は次のように投稿した。

とんでもない。OpenAIは、外部のAI安全性団体に情報を共有したとして安全性研究者3人を解雇したと報じられている。これは内部告発者を解雇しているように見える。何を隠しているのか。OpenAIに透明性を求める要求書を送る。

事実関係において、OpenAIの立場は十分に擁護可能かもしれない。インフラの詳細は本当に機微なものであり得るし、評価者の情報請求権も無制限ではない。だが同社は、手続きを根拠に主張しながら、その手続きを開示しないという選択をした。団体名もなく、資料の説明もなく、どの手続きが迂回されたのかの説明もない。それらが示されるまで、検証可能な事実はただ一つ——問題を早期に見つけることを職務としていた3人がいなくなり、会社の仕事を点検すべき組織にとって、内部で電話を取ってくれる人間が1人減ったということだけである。

Sources: TechCrunch · Forbes · Cybernews · Decrypt · Washington Examiner · Implicator.ai · METR · METR on X · Rep. Greg Casar on X · OpenAI: The Hugging Face incident and the road ahead