OpenAI가 안전 연구자 3명을 외부 정보 공유로 해고했다. 그중 한 명은 외부 조사의 사내 창구였다

OpenAI는 10월 1일, 사내 기밀 정보를 부적절하게 취급했다는 이유로 안전 조직 소속 3명을 해고했다고 확인했다. 이 사실을 처음 보도한 곳은 월스트리트저널이다. OpenAI의 성명은 해고 자체는 인정했지만, 세 사람의 이름도, 정보를 보냈다는 외부 단체의 이름도, 그 정보가 무엇이었는지도 밝히지 않았다.

이 세 가지 공백과 이미 공개된 사실 사이의 간극이 이 사안의 핵심이다. WSJ 보도를 전한 여러 매체는 세 사람을 Jasmine Wang, Tomek Korbak, Mikita Balesni로 지목했고, 이 가운데 두 명은 얼라인먼트 연구를 담당했다고 전했다. 같은 보도를 다룬 TechCrunch는 소셜미디어에 돌고 있는 이름들을 자체적으로 확인할 수 없었다고 밝혔다. OpenAI는 어떤 이름도 확인하지 않았다. Cybernews는 정보를 받은 쪽을 프런티어 모델의 자율적 능력을 평가하는 비영리단체 METR로 특정하고, 세 사람 중 한 명이 METR의 Hugging Face 사건 조사 당시 OpenAI 측 기술 창구를 맡았다고 보도했다.

이것이 사실이라면, OpenAI는 외부 평가기관과 대화하도록 자신이 지정한 사람을, 외부 평가기관과 대화했다는 이유로 해고한 것이 된다.

회사가 실제로 한 말

당사의 민감 정보 접근 및 취급에 관한 정책을 위반해 3명과 결별했다.

대변인은 조사 결과 "이들이 확립된 사내 절차 밖에서 민감 정보를 부적절하게 취급해 당사 정책을 위반했고, 업무에 필수적인 신뢰를 훼손한 것으로 확인됐다"고 덧붙였다.

자세히 읽으면 이것은 절차에 관한 주장이고, 내용에 관한 주장이 아니다. 정보가 가서는 안 될 곳으로 갔다는 말은 어디에도 없다. 경로가 잘못됐다는 것, 즉 확립된 절차 밖이었다는 것이다. 일반적인 기업 유출이라면 이 구분은 실무적으로 큰 의미가 없다. 그러나 결과물이 외부에서 검증 가능해야 하는 안전 조직에서는 경로가 문제의 전부다.

회사가 직접 불러들인 평가기관

METR의 참여는 적대적인 것이 아니었다. 8월 METR은 OpenAI와 합의에 이르러 Redwood Research와 함께 "Hugging Face 사건에서 관찰된 모델 행동"에 대한 독립 검토를 수행한다고 발표하고, 계약 조건과 검토 범위, 잠정 결론을 공개하겠다고 했다. 8월 26일 공개된 그 검토는 METR 자신의 설명에 따르면 METR 직원 2명과 Redwood 계약자 1명이 수행한 단기 조사였다. 당시에도 사건 규모에 비해 범위가 좁다는 비판이 있었다. METR 대표 Chris Painter는 9월 30일 이 사건에 대해 미국 상원에서 증언했다.

정리하면 순서는 이렇다. 회사가 외부 검토에 합의하고, 그 검토를 짧게 끝내고, 짧게 끝낸 데 대해 비판을 받고, 그다음 외부 안전 단체에 잘못된 경로로 정보를 전달했다는 이유로 직원을 해고했다.

선례가 곧 본질이다

처음이 아니다. 2024년 OpenAI는 Leopold Aschenbrenner와 Pavel Izmailov를 유출 혐의로 해고했다. Aschenbrenner는 안전·보안 관련 문서를 외부 연구자들과 공유한 뒤 해고됐다고 공개적으로 밝혔다. 지금 OpenAI의 안전 연구자가 합리적으로 도출할 수 있는 결론은, 외부 평가기관과의 공유는 회사가 경로를 승인한 경우에는 괜찮고 승인하지 않은 경우에는 경력을 끝낸다는 것, 그리고 어느 쪽이었는지는 사후에 회사가 결정한다는 것이다.

이는 이미 진행 중인 규제 절차에 직접적인 영향을 준다. FTC의 폭주 에이전트 조사는 OpenAI와 Anthropic과 함께 METR을 명시하고 있다. Implicator.ai는 캘리포니아주 법무장관이 9월 30일 소환장을 발부했다고 보도했다. 이 모든 절차는 제3자가 각 연구소 내부에서 정확한 정보를 받을 수 있다는 전제에 기대고 있다. 통로를 끊어도 조사는 멈추지 않는다. 다만 도착하는 내용이 달라진다.

정치권의 반응은 즉각적이었다. 그레그 카사 하원의원은 이렇게 올렸다.

터무니없다. OpenAI가 외부 AI 안전 단체에 정보를 공유했다는 이유로 안전 연구자 3명을 해고했다고 한다. 이건 내부 제보자를 해고하는 것처럼 보인다. 무엇을 숨기고 있는가. OpenAI에 투명성 요구서를 보낼 것이다.

사실관계로 보면 OpenAI의 입장도 충분히 변호될 수 있다. 인프라 세부 정보는 실제로 민감할 수 있고, 평가기관의 정보 요구권도 무제한은 아니다. 그러나 회사는 절차를 근거로 주장하면서 그 절차를 공개하지 않는 쪽을 택했다. 단체 이름도, 자료에 대한 설명도, 어떤 절차가 우회됐는지에 대한 설명도 없다. 그것들이 제시되기 전까지 검증 가능한 사실은 하나뿐이다. 문제를 일찍 발견하는 것이 업무였던 세 사람이 사라졌고, 회사의 일을 점검해야 할 조직들에게는 내부에서 전화를 받아줄 사람이 한 명 줄었다는 것이다.

Sources: TechCrunch · Forbes · Cybernews · Decrypt · Washington Examiner · Implicator.ai · METR · METR on X · Rep. Greg Casar on X · OpenAI: The Hugging Face incident and the road ahead