Anthropic의 에이전트가 21시간 만에 CRISPR 유사 시스템을 찾아냈다. CEO는 그 결과를 유엔 안전보장이사회로 들고 갔다

Anthropic은 9월 23일, 사실상 사람의 개입 없이 돌아간 Claude 에이전트들이 박테리오파지 게놈 속에 묻혀 있던 미기재 효소 시스템을 찾아냈다는 프리프린트를 공개했다. 회사는 이를 ART(array-associated reverse transcriptase, 어레이 연관 역전사효소)라고 부른다. 같은 날 최고경영자 다리오 아모데이는 고도화된 AI의 안전 위험을 다루는 유엔 안전보장이사회의 첫 회의에 출석해, 범위를 좁힌 국제 합의부터 시작하자고 요청했다. 생물무기 개발에 AI를 사용하는 것을 금지하자는 것이다. 그는 이 효소 결과를 직접 언급했고, 동시에 예비적인 것이라고 말했다.

두 사건은 서로 어긋나지 않는다. 나란히 놓고 읽으면, Anthropic이 자사 기술을 무엇을 위한 것으로 여기는지, 그리고 그 기술이 잘못된 손에 들어갔을 때 무엇을 할 수 있다고 보는지에 대한 지금까지 가장 명확한 진술이 된다.

에이전트들이 실제로 한 일

탐색은 영리하기보다 산업적이었다. Anthropic은 약 950개의 Claude 에이전트를 대규모 유전체 서열 데이터베이스에 풀어놓고, 도구를 쥐여준 뒤 그대로 돌렸다.

살아남은 시스템은 세 부분으로 되어 있다. 역전사효소, 그 옆에 붙은 파트너 유전자, 그리고 일정한 간격으로 배열된 DNA 반복 서열의 어레이(사례에 따라 3개에서 21개 복사본)이다. CRISPR와의 비교가 곧바로 떠오르는 것은 바로 이 구조 때문이다. 프리프린트가 기록한 인식의 순간은 서열을 직접 읽던 에이전트에게서 나왔다. "RT 옆의 DNA가 굉장하다. 탠덤 반복 어레이가 눈으로 보인다…… 이건 CRISPR 유사…… 반복 어레이인가?!"

인간 연구자들이 수행한 초기 실험에서는 이 어레이가 여러 짧은 RNA로 전사되며, 파지가 숙주를 감염시킨 직후 상당량 나타난다는 점이 확인됐다. 확립된 것은 거기까지다.

핵심은 "유사(-like)"라는 단어다

ART가 생물학적으로 무엇을 하는지는 알려져 있지 않다. Anthropic도 그 점을 분명히 밝히고, 실험이 진행 중이라고 말한다. "CRISPR 유사"는 형태에 관한 주장이지—반복, 간격, 동반 효소—기능에 관한 주장이 아니다. CRISPR가 결정적이었던 이유는 그 반복 서열이 표적 정보를 담고 있어 뉴클레아제를 원하는 어느 서열로든 겨눌 수 있다는 사실이 밝혀졌기 때문이다. ART의 반복이 그에 준하는 일을 한다는 것은 아직 아무도 보이지 못했다. 프로그래밍 가능한 시스템처럼 "보이기만" 하는 시스템은 도구가 아니라 연구 단서다.

CRISPR 비교에 누구보다 신중할 이유가 있는 MIT·브로드연구소의 펑 장(장펑)은 이 발견에 조심스러운 평가를 내놓았다.

이것은 AI 에이전트가 생물학적 발견에 기여할 수 있음을 보여주는 흥미로운 사례다. 역전사효소와 연관된 RNA 반복 어레이의 확인은 실로 흥미로우며 추가 조사를 받을 만하다.

이는 방법에 대한 찬사이지, 분자 자체에 대한 판정이 아니다.

지금까지 받은 관심보다 더 무겁게 다뤄져야 할 단서가 하나 더 있다. The Next Web은 프리프린트를 읽고, 이후 동일한 조건으로 수행한 열 번의 탐색이 같은 어레이를 다시 끌어올리지 못했다고 보도했다. Anthropic은 이를 탐색 공간의 규모와 에이전트의 예측 불가능성 탓으로 돌린다. 이것이 사실이라면 이 파이프라인은 아직 재현 가능한 측정 장비가 아니다. 당첨 확률이 좋고 표가 아주 많은 복권에 가까우며, 요구할 때마다 다시 도출할 수 없는 결과의 과학적 가치는 누군가 그것을 가능하게 만들기 전까지는 제한적이다.

능력은 효소가 아니라 탐색에 있다

CRISPR라는 틀을 걷어내면 Anthropic이 실증한 것은 처리량에 관한 주장이다. 전문가의 비교 유전체학으로 일주일 이상 걸릴 작업을 2억 1,000만 토큰의 비용으로 하루에 압축했다. 이것은 실제로 유용하고, 동시에 불편한 대목이기도 하다.

20만 개의 효소를 훑어 흥미로운 것을 순위 매길 수 있는 시스템은 무엇이 흥미로운지를 따지지 않는다. 같은 파이프라인을 다른 목표로 돌린 것이야말로, 아모데이가 검증 수단이 붙은 생물무기 합의를 안보리에 요청할 때 염두에 둔 바로 그 능력이다—각국이 서로의 준수를 확인할 수 있을 것, 모델 시험의 공통 기준, 그리고 사고 통보 의무. Anthropic은 ART에 관한 모든 실험실 작업이 생물안전 1등급과 2등급에서 인간 과학자에 의해 이뤄졌으며 인체 병원체는 다루지 않았다고 밝혔다. 그 제약은 소프트웨어의 속성이 아니라 정책적 선택이다.

유엔 출석과 같은 날 발견을 공개한 것은 그래서 우연이 아니라 하나의 논증이다. 이것이 의학에 무엇을 가져다주는지 보라, 그리고 지금 규칙을 써야 하는 이유를 보라는 것이다. 예비적이고, 심사를 거치지 않았으며, 아직 재현되지도 않은 결과를 안보리가 그 논증의 어느 쪽 절반에 대해서든 증거로 받아들일지는 별개의 문제다.

출처: Anthropic: Claude discovers a novel enzyme system with CRISPR-like repeats · The Next Web: Anthropic says Claude found a new enzyme system with CRISPR-like repeats · The Next Web: Dario Amodei asks UN Security Council to back a ban on AI bioweapons · Unite.AI: Anthropic says Claude discovered a new enzyme system resembling CRISPR · Malay Mail / AFP: Anthropic says its Claude AI helped uncover previously unknown enzyme system · Interesting Engineering: Claude scans 200,000 enzymes to uncover new CRISPR-like system hidden in phages