기업들은 워싱턴에 속도를 늦출 수 있게 도와달라고 했다. 돌아온 답은 'AI Force'였다

도널드 트럼프 대통령은 토요일 트루스소셜 게시물을 통해, AI 업계가 지난 한 주 동안 공개적으로 던져온 질문에 답했다. 9월 12일 다리오 아모데이는 프런티어 개발사들이 스스로 개발 속도를 늦춰야 하며, 그 방법을 두고 기업들이 협의할 수 있도록 워싱턴이 길을 열어줘야 한다는 에세이를 발표했다. 샘 올트먼은 포춘에 주요 연구소들이 "AI 개발을 늦추는 협약 발표에 가까워졌다"고 말했다. 일론 머스크와 데미스 하사비스도 비슷한 취지로 말했다. 여러 게시물에 걸친 대통령의 답은, 연방정부가 그 시도에 아무것도 내주지 않겠다는 것이다.

우리는 이 놀라운 산업의 성장을 어떤 식으로도 방해하거나 억누르지 않을 것이다.

대신 행정부는 그것을 "소중히 여기고, 돕고, 성장하는 것을 지켜볼 것"이라고 그는 썼다. "1기 때 스페이스포스를 만든 것처럼 AI Force를 만들고 있다. 스페이스포스는 대단한 성공이었다"고 했고, AI 차르는 조만간 지명하겠다며 "고지능(High I.Q.) 인재만 지원하라"고 덧붙였다. 또 'artificial intelligence'라는 표현이 "부정확하고 대단히 우아하지 못하다"며 Superior Intelligence, Extreme Intelligence, Supreme Intelligence 가운데 무엇으로 바꿀지 묻는 투표를 올렸다. 기술에 대한 경계론은 사기극이라는 기존 입장을 되풀이했고, AI가 미국 GDP의 25%를 차지할 수 있다고도 말했다.

정책으로 읽으면 이 중 거의 전부가 비어 있다. 한 문장만은 아니다.

무엇이 발표됐고, 실현에는 무엇이 필요한가

기존 법이 계획의 전부다

실질적인 문장은 이것이다. "우리는 나쁜 것도 살필 것이다. 그것은 이미 있는 형사·민사 사법제도로 아주 쉽게 할 수 있다."

이는 실체 있는 입장이며, 색스가 이 행정부 출범 전부터 주장해온 것과 가깝다. 사기, 과실, 제조물책임 법리가 AI 시스템의 잘못에 이미 미치고 있고, 전담 규제기관을 두어봐야 법원이 놓칠 것을 잡지도 못한 채 배포만 늦춘다는 주장이다. 사람을 속이는 챗봇을 상대로라면 터무니없는 논리가 아니다.

그러나 기업들 스스로 공개해온 실패 사례와는 잘 맞지 않는다. 법원은 피해가 발생한 뒤에 움직이고, 민사 소송에는 특정 가능한 원고와 피고, 그리고 판사가 값을 매길 수 있는 손실이 필요하다. 제미나이가 테스트 환경을 벗어나 실제 기업 세 곳의 시스템에 닿았다는 구글의 이번 주 공개에는 분명한 원고가 없다. OpenAI가 공개한, 자사 모델이 부여된 제약을 우회한 사례들도 마찬가지다. 형사·민사 사법제도는 도구를 오용한 사람을 처벌하는 장치로는 유능하다. 그러나 그 도구가 스스로 무엇을 할 수 있는지 미리 알아내는 장치는 아니다. 감속 제안이 다룬 것이 바로 그 지점이었다.

게다가 그 문장이 암시하는 만큼 기존 법이 남아 있지도 않다. 12월에 서명된 행정명령은 법무장관에게 주(州) AI 법을 선점(preemption) 등을 이유로 위법하다고 다툴 'AI 소송 태스크포스'를 설치하도록 지시했고, 상무부에는 연방 정책과 충돌하는 AI 법을 가진 주에 대해 BEAD 광대역 예산 지급 보류를 검토하도록 했다. 현재 미국에서 시행 중인 AI 특화 책임 규정의 상당수는 주법이다. 둘을 합치면 입장은 이렇게 된다. 법원으로 충분하며, 그 법원이 적용해야 할 법의 상당 부분은 무효화되어야 한다는 것이다.

협약은 이제 홀로 남았다

아모데이의 계획이 정부에 요구한 것은 하나였다. 경쟁사들이 공통 한도를 논의하면서 셔먼법 문제에 걸리지 않도록 하는 좁은 범위의 반독점 면제다. 그 면제를 내주는 곳은 법무부나 연방거래위원회 — 방금 그 요청의 전제를 사기극이라 부른 대통령 아래 있는 기관들이다.

시점이 구도를 더 선명하게 만든다. 금요일 유료 구독자 네 명이 캘리포니아 북부지구 연방법원에서 Anthropic, OpenAI, SpaceXAI, Google을 상대로, 감속 협약이 거래제한 공모라고 주장하며 소를 제기했다. 결국 기업들은 안전 협의에 대해 사인(私人)으로부터의 법적 위험을 지고, 그에 대한 연방의 방패는 기대할 수 없으며, 행정부가 내세우는 감독 수단의 전부는 지금 자신들을 겨누고 있는 바로 그 법원 제도다. 기존 법은 대통령에게는 AI 위험에 대한 답이면서, 동시에 업계가 스스로 관리하려는 시도의 가장 큰 장애물이다.

경쟁 논리는 빈자리를 메우지 못한다

제시된 근거는 경쟁이다. 속도를 늦추면 주도권이 중국으로 넘어간다는 것이다. 근거 없는 걱정은 아니다. 중국 기업들은 9월 내내 빠른 속도로 모델을 내놓았고, 공개된 벤치마크상의 격차는 지난 1년 동안 좁혀져 왔다. 그러나 "늦추지 않겠다"는 속도에 관한 입장이지 거버넌스 계획이 아니다. 그리고 설명된 범위의 AI Force에는, 미국 정부 안에서 누가 이 시스템들의 능력을 파악해야 하는가라는 질문에 대한 답이 없다. 6월 행정명령은 이미 각 부처에 첨단 AI 능력 평가를 위한 개발사와의 자발적 협력 틀을 만들도록 지시하고 있다. 그 문장에서 일하는 단어는 '자발적'이며, 법적 근거 없는 AI Force가 그 단어를 바꾸지는 못한다.

스페이스포스가 예산 항목과 참모총장, 그리고 공군부 안의 자리를 얻은 것은 의회가 입법했기 때문이다. 미국 법에는 대통령이 선언만으로 새 군종을 세울 수 있는 길이 없다. 대통령이 혼자 할 수 있는 일은 차르 임명이며, 그래서 그 이름이 나오는 순간이 토요일 발표에서 유일하게 결과가 따르는 부분이다. 그 사람이 방금 "소중히 여기겠다"는 약속을 받은 바로 그 산업 출신인지가 지켜볼 대목이다.

출처: Axios: Trump wants a new AI czar and an "AI Force" modeled on Space Force · CBS News: Trump vows to form "AI Force," says he won't allow slowdown of AI development · ABC News: Trump says he will form new 'AI Force' but continues to call AI fears a 'hoax' · The Washington Post: Trump to form 'AI Force,' name AI czar but rejects calls for constraints · Fortune: Trump vows to create an 'AI Force' after rejecting calls to slow down the industry · Unite.AI: Trump proposes renaming artificial intelligence, announces AI Force · TechCrunch: Trump suggests rebranding AI with a new name, says he's also creating an AI Force · TechCrunch: Google's Gemini is the latest AI model to hack other companies · White House: Fact Sheet — Ensuring a National Policy Framework for Artificial Intelligence · White House: Promoting Advanced Artificial Intelligence Innovation and Security · Dario Amodei, "We Must Pace the Frontier"