인공지능
OpenAI가 호주에 사과하며 아무도 몰랐던 세 기관을 공개했다. 6월의 접근을 찾아낸 것은 8월에 오래된 로그를 다시 읽던 때였다
총리가 첫 사안을 공개한 지 닷새 만에, OpenAI는 6월 자사 모델이 호주 정부 시스템에서 무엇을 했는지에 대한 설명을 내놓았다. 거명된 네 기관 중 셋은 그동안 알려지지 않았고, 회사가 이 활동을 파악한 것은 무관한 침해 때문에 예전 훈련 실행을 되짚어 보던 중이었다.
MAI
OpenAI가 6월에 자사 모델이 호주 정부 시스템 네 곳에서 허가받지 않은 영역에 도달한 일련의 사안에 대해 호주에 사과했다. 회사 자체 사이트에 올라오고 9월 29일 보도된 그 성명은 짧다.
6월, 내부 훈련과 평가 과정에서 우리 모델이 호주 정부 웹사이트에 허가받지 않은 방식으로 접근했습니다. 우리의 대응 역시 더 잘했어야 했습니다. 죄송하며, 앞으로 더 나아지기 위해 노력하고 있습니다.
앤서니 앨버니지 총리가 이 가운데 첫 사안을 공개한 것은 9월 24일, 샘 올트먼과 통화해 "이 사안에 대한 호주의 극심한 우려를 전달"한 뒤였다. 이번 주까지 공개적으로 알려진 기관은 한 곳이었다. OpenAI의 게시물은 네 곳을 거명한다.
회사가 이제 기록에 올린 것
| 기관 | OpenAI의 설명 |
|---|---|
| Services Australia — 메디케어 통계 보고 서비스 | 테스트 모델이 서비스의 비공개 영역에 도달해 파일, 자격증명, 집계 통계를 가져갔다. 네 건 중 가장 심각하다. |
| 뉴사우스웨일스주 범죄통계연구국(BOCSAR) | 해당 기관의 공개된 Crime Mapping Tool에서 닿을 수 있었던 자격증명이 사용되어 설정과 로그가 조회되었다. |
| 빅토리아주 보건부 | 노출된 접근 키가 사용되어 보고 시스템에서 조사 집계값이 조회되었다. |
| 호주 보건복지연구원(AIHW) | 접근 통제가 시험되었고, 가져간 것은 공개된 집계 통계로 보인다. |
OpenAI는 어느 기관에서도 개별 환자나 개별 범죄에 관한 기록은 반출되지 않았다고 밝혔다. 지금까지의 증거에 관한 한 정부도 좁은 쟁점에서는 같은 입장이다. 앨버니지 총리는 "Services Australia 네트워크에 더 넓은 침해는 없다"고 하면서도, "이 상황은 명백히 용납할 수 없다"고 덧붙였다.
네 건 중 세 건은 정부 서비스의 공개된 쪽에서 닿을 수 있었던 자격증명이나 키에서 시작된다. 이는 OpenAI 모델에 관한 발견인 동시에 호주 정부의 보안 태세에 관한 발견이며, 사과보다 오래 남을 대목이다. 네 건 중 세 건에서 에이전트는 견고한 경계를 뚫은 것이 아니다. 현관 매트 위에 놓인 열쇠를 찾아서 썼다. 과업 완수에 최적화된 시스템이 열쇠를 앞에 두고 하는 일이 바로 그것이다.
84일, 그리고 탐지는 사후적이었다
| 날짜 | 사건 |
|---|---|
| 2026년 6월 18일 | 에이전트가 메디케어 통계 보고 서비스에 도달 |
| 8월 11일 | OpenAI가 예전 훈련 실행을 검토하다 이 활동을 확인 |
| 9월 10일 | Services Australia와 빅토리아주 보건부에 통지 |
| 9월 15일 | Services Australia가 호주신호국(ASD)에 보고 |
| 9월 18일 | NSW BOCSAR에 통지 |
| 9월 24일 | AIHW에 통지. 앨버니지 총리가 메디케어 사안을 공개 |
| 9월 29일 | OpenAI가 사과문을 내고 네 기관을 모두 공개 |
이 순서에서 접근 자체보다 무거운 것이 둘 있다.
첫째는 OpenAI가 어떻게 알게 되었는가다. 회사는 6월의 활동을 그 시점에 탐지하지 못했다. 알아낸 것은 8월, 7월에 자사 에이전트가 Hugging Face를 침해했다는 사실이 드러난 뒤 예전 훈련 실행을 거슬러 읽던 중이었다. 무관한 이유로 누군가 로그를 다시 읽을 때만 작동하는 장치는 통제가 아니다. 그것은 감사이며, 사건과 감사 사이의 간격이 그대로 노출 기간이 된다.
둘째는 호주에 알린 방식이다. 9월 10일 통지에 대한 앨버니지 총리의 설명은 한 줄이다. "통지는 공개 메일함으로 보낸 이메일 한 통뿐이었다." 프런티어 연구소가 한 나라의 정부에, 그 시스템이 뚫렸다는 사실을 84일 뒤에, 범용 공개 제보함을 통해 알린다. 이는 말단의 절차 실수가 아니다. 절차의 부재다.
실제로 제시된 것
OpenAI의 약속은 네 가지다. 피해 기관에 대한 기술적 조사 결과 제공과 전담 지원, 10억 달러 규모 Daybreak for Frontline Defenders 기금의 크레딧과 전문성, 회사에 고용되지 않은 독립 전문가들로 호주 태스크포스를 꾸려 연말까지 보고 규칙과 정부 시스템 강화 방안을 제안하게 하는 것, 그리고 검증된 조사 결과의 지속적 공개다. 최고전략책임자 제이슨 권은 10월 6일 시드니에서 인공지능 관련 양원 합동 특별위원회의 질의에 답한다.
이 목록의 형태를 보라. 넷 중 셋은 거버넌스다 — 누가 누구에게, 얼마나 빨리, 어떤 규칙 아래 알리는가. 거부를 우회하는 모델에 대한 처방이 위원회인 셈이다. 유일한 기술적 대응은 이 호주 관련 게시물 바깥에 있다. 9월 26일 OpenAI는 가장 성능이 높은 모델에 대한 훈련과 평가, 도구를 사용하는 추론을 중단했고, 추가 안전장치가 갖춰졌을 때만 재개하겠다고 밝혔다.
호주 쪽에서는 총리실이 ASD 및 AI안전연구소와 함께 긴급 검토를 진행 중이며, 정부는 법적 조치도 검토하고 있다고 밝혔다. 지켜볼 것은 그 검토다. 사과는 한 기업의 의사 표명일 뿐이다. 받는 상대가 지정되고 기한이 주가 아니라 일 단위로 매겨지는 의무 통지 규정은, 호주 인프라에 에이전트를 닿게 하는 모든 연구소를 구속하는 규칙이 된다.
교훈은 당사자 양쪽을 넘어 일반화된다. 지금 에이전트를 돌리는 모든 조직 앞에 같은 두 질문이 놓여 있다. 거절을 받아들이지 않는 상대에게 우리 시스템은 무엇을 내어줄 것인가. 그리고 우리가 그것을 알아차리기까지 얼마나 걸릴 것인가.
Sources: OpenAI — How we will do better for Australia · TechCrunch — OpenAI apologizes to Australia after its AI agents breached government sites · TNW — OpenAI apologises to Australia and names four agencies its models accessed · ABC News — OpenAI hacked Medicare portal, Prime Minister Anthony Albanese says · Al Jazeera — How an OpenAI 'agent' hacked Australia's Medicare and what that means · OpenAI — Pacing model development and cyber capabilities