Anthropic이 첫 독립 평가자를 지명했다. 그 회사는 Anthropic 최대 도입 사업을 맡은 곳이기도 하다

Anthropic은 9월 18일, 회사 내부에서 일할 첫 임베디드 평가자(embedded evaluators) 팀을 Accenture가 공급한다고 발표했다. 직원에 준하는 접근 권한을 가진 외부 인력이 모델을 레드팀하고, 정렬(alignment) 평가를 수행하고, 안전장치를 시험하며, 발견한 것을 보고한다. 양사는 각각 5년간 최소 10억 달러를 투자할 것으로 예상한다. 이는 다리오 아모데이가 일주일 전 「We Must Pace the Frontier」에서 제시한 3단계 계획 가운데 처음으로 구체화된 부분이자, 한 연구소가 혼자 실행할 수 있는 유일한 단계다.

같은 사실을 뒤집어 보면, 이것은 Anthropic과 그 회사의 최대 상업 도입을 맡고 있는 업체 사이의 계약이기도 하다.

실제로 약속된 것

인력은 Faculty에서 온다. Accenture가 1월에 6억 파운드가 넘는 금액으로 인수하기로 합의한 영국의 응용 AI 기업이며, 그 최고경영자였던 마크 워너는 현재 Accenture의 최고기술책임자다. Faculty의 이력은 정부·국방·의료·인프라 고객을 위한 모델 시험이며, 정렬 연구보다는 어슈어런스(검증) 업무에 가깝다.

핵심은 접근 권한이다

오늘날 프런티어 모델에 대한 외부 평가는 대개 출시 직전의 짧은 창구를 뜻한다. 외부 기관이 비밀유지계약 아래 완성된 체크포인트를 받아 몇 주 동안 살펴보고, 연구소가 허용하는 범위를 공개하는 식이다. 상주형 접근은 성격이 다른 장치다. 학습이 진행되는 동안 건물 안에 있는 평가자는 결과물만이 아니라 결정 과정을 볼 수 있다. 그리고 아모데이의 글은 공개할 권리가 연구소의 불편함을 넘어 유지돼야 한다고 말한다 — "불리하다는 이유만으로 발견을 가릴 수는 없다".

이것이 지켜진다면, 프런티어 개발사가 내놓은 투명성 약속 가운데 가장 실질적인 것이 된다. Anthropic의 발표문 자체가 이를 과장하지 않으려 조심한다. "임베디드 평가자가 어떤 정보에 접근해야 하는지, 발견한 것을 어떻게 보고해야 하는지에 대한 표준은 아직 없다." 이 체계는 설계와 인력 배치가 동시에 진행되고 있다.

독립성 문제는 부수적인 것이 아니다

2025년 12월 9일, Accenture와 Anthropic은 Accenture Anthropic Business Group을 출범시켰다. Accenture 직원 약 3만 명이 Claude 교육을 받고, 수만 명의 개발자에게 Claude Code가 제공되며, 기업 고객을 파일럿에서 실제 운영으로 옮긴다는 목표가 내걸렸다. 아모데이는 당시 이를 "우리의 역대 최대 도입"이라고 표현했다. 아홉 달 뒤 같은 거래 상대가 같은 모델에 대한 독립적 점검자가 되고, 점검 대상 회사로부터 직접 보수를 받는다. TechCrunch에 따르면 이 소식에 Accenture 주가는 시간외 거래에서 약 8% 올랐다.

Anthropic은 이 반론을 피하지 않고 정면으로 다룬다. 논지는 이렇다. Accenture는 AI 붐 이전부터 존재한 대형 상장사이며 특정 연구소에 의존하지 않는다. 제휴는 양방향으로 비배타적이다. 회사는 "METR을 비롯한 비영리 평가 기관들과 대화하며, 그들 자체 자금으로 임베디드 평가의 요소를 시범 적용하는 방안"을 논의하고 있다. 직접 자금 지원은 출발점일 뿐이며, 장기적으로는 "자금이 공동 기금이나 정부 재원에서 나와야 한다". 회사가 내놓은 요약 문장은 이 주장의 정직한 형태다.

독립적인 임베디드 평가자는 우리의 책임을 줄이는 것이 아니라, 그 책임을 더 검증 가능하게 만든다.

그럼에도 이 선택은 임베디드 평가를 주장해온 사람들을 놀라게 했다. 그 논의의 중심에는 METR, Redwood Research, Apollo Research가 있었다 — 정렬 연구 인력을 갖췄고 잃을 매출이 없는 소규모 조직들이다. Accenture 쪽 반론은 비영리 기관들이 쉽게 답하기 어려운 실무적인 것이다. 프런티어 연구소 안에 5년간 상주팀을 두는 일은 인력 배치 문제이고, 컨설팅 회사는 인력 배치 문제를 풀기 위해 만들어진 조직인 반면 연구 비영리 기관은 그렇지 않다.

아직 치러지지 않은 시험

일주일 전의 미결 질문은 상주 평가자가 이름과 권한 범위, 공개되는 결과와 함께 등장할 것인가, 아니면 원칙으로 남을 것인가였다. 셋 중 둘은 답이 나왔다. 남은 하나가 이것이 감독인지 조달인지를 가른다. 그리고 그것은 이번 주에 서명된 어떤 문서로도 결정되지 않는다.

결판은 Accenture의 상주팀이 Anthropic이 공개되기를 원치 않는 무언가를 찾아내고, 그럼에도 공개할 때 난다. 상대는 그 작업에 돈을 대고, 자사 소프트웨어를 같은 회사를 통해 파는 고객이다. 그 일이 일어나기 전까지 존재하는 것은, 이미 상당한 거래 관계를 맺고 있는 두 회사 사이의 자금이 넉넉한 합의이며, 그 조건에 동의한 제3자는 아무도 없다. Anthropic은 몇 주 안에 평가자가 더 늘어난다고 말한다. 그중에 이 거래처를 잃어도 버틸 수 있는 곳이 있는지, 그것이 지켜볼 대목이다.

출처: Anthropic: Partnering with Accenture on embedded evaluation · Accenture newsroom: Accenture and Anthropic partner to build team of embedded evaluators at Anthropic · Dario Amodei, "We Must Pace the Frontier" · TechCrunch: Anthropic's first embedded evaluator is … Accenture? · CNBC: Anthropic selects Accenture as first embedded evaluator · Accenture newsroom: Accenture and Anthropic launch multi-year partnership (2025년 12월 9일)