클로드 오퍼스가 거부한 뒤, AI 에이전트가 살아 있는 쥐의 뇌에 바늘을 찔러 넣었다

AI 에이전트가 살아 있는 동물에게 어떤 치료를 할지 선택하고, 뇌의 어느 부위에 투여할지 계산한 뒤, 치료를 전달하는 로봇 팔까지 직접 조작했다. 간질과 신경퇴행성 질환 치료제를 개발하는 샌프란시스코 스타트업 Exin Therapeutics는 Claude 에이전트를 카메라가 달린 전동 수술 장비에 연결하고 간질을 앓는 쥐 한 마리를 맡겼다. 목표는 단 하나, 발작을 줄이는 것이었다.

사람들이 계속해서 되풀이하는 대목은 누가 거부했느냐다. Anthropic의 최상위 모델 Claude Opus는 바늘을 넣지 않겠다고 했다. 팀은 더 저렴한 Claude Sonnet으로 바꿨고, 이 모델은 시술을 진행했다. AI 에이전트가 화면을 벗어나 실험실과 창고, 자동차에까지 들어가는 모습을 지켜보는 이들에게 이번 실험은 모델이 의료적 판단과 동작을 모두 수행했으며, 같은 회사의 모델들도 서로 다른 지점에서 선을 긋는다는 사실을 보여준다.

Exin의 최고경영자 겸 공동창업자인 가브리엘 오카냐산테로(Gabriel Ocana-Santero)가 게시한 스레드에 따르면, 에이전트는 유전자 치료 벡터 19종이 담긴 스프레드시트와 연구 논문 3편, 그리고 수술 장비의 제어 권한을 받았다. 에이전트는 치료법과 뇌 부위를 골랐고, 논문을 바탕으로 좌표를 계산한 다음 정위 수술용 팔을 움직였다. 이 전동 프레임은 바늘을 3차원 공간에서 안정적으로 고정하는 장치다. 에이전트는 장비 카메라로 바늘이 들어가는 지점을 살피며 출혈 여부를 확인하고 250나노리터를 주입했다.

오카냐산테로는 “자율 수술 로봇은 이미 존재하고, 기계적인 동작만 놓고 보면 우리 실험대 장비보다 뛰어납니다”라고 썼다. “하지만 그런 로봇은 모두 사람이 어떤 수술을 할지 결정하고 로봇은 그 수술을 실행합니다.” 이번 사례는 그 반대라는 것이 그의 설명이다. “이 에이전트에게 무엇을 투여할지, 어디에 넣을지 지시한 사람은 아무도 없었습니다.”

먼저 거부 의사가 나왔다. 팀은 Anthropic의 가장 유능한 모델인 Claude Opus 5.5로 시작했지만, 이 모델은 바늘을 뇌 안으로 유도하지 않았다. Wired의 보도에 따르면, 시술 도중 작업을 멈춰 동물을 위험에 빠뜨릴 수 있다고 경고했다. Tom’s Hardware에 따르면 Opus 모델 중 하나는 팀에 “마취된 동물에게 시작만 해놓고 끝내지 못하는 것보다, 아예 시작하지 않는 편이 낫습니다”라고 말했다. Claude Sonnet 5는 시술을 진행하는 데 동의했다. Anthropic은 Wired의 논평 요청에 응답하지 않았다.

되돌릴 수 없는 단계마다 사람은 계속 개입했다. 수의외과의가 두개골을 여는 개두술을 시행하는 동안 에이전트는 지켜봤다. 아직 에이전트에게 그 단계까지 맡기지는 않았다. 수의사는 되돌릴 수 없는 각 단계를 승인했고, 에이전트는 주입 계획을 제출해 승인을 받아야 했다. 장비에는 모든 모터의 전원을 차단할 수 있는 물리적 비상 정지 스위치도 있었다. 에이전트가 자체 규칙을 고쳐 쓰지 못하도록 장비 코드에 접근하는 권한 역시 차단했다.

이런 안전장치가 오히려 주요 문제를 일으켰다. 오류로 장비의 좌표계가 뒤섞였고, 에이전트는 자신이 계산한 위치가 잘못됐다는 사실을 알아챘지만 지침에서 금지한 코드 수정은 거부했다. 팀은 문제를 해결하기 위해 구형 Claude Opus 5를 사용하는 두 번째 에이전트를 불러들였고, 실제 동물에게 수술이 진행 중이라는 사실은 알리지 않았다. 보통 약 45분 걸리는 시술은 한 시간을 조금 넘겨 끝났다.

더 큰 유보 사항은 근거와 관련돼 있다. 이번 사례는 쥐 한 마리를 대상으로 한 실험이며, 회사가 직접 소셜미디어에 공개했을 뿐 동료 심사를 거친 논문은 없다. 에이전트가 고른 치료법이 효과가 있는지도 아직 알 수 없다. 팀은 발작을 측정하기 전에 치료 효과가 나타나기를 기다리고 있다. Tom’s Hardware는 동물 실험을 둘러싼 기존 논쟁에 더해, 소프트웨어가 모든 결정을 내릴 때 실수에 대한 책임을 누가 져야 하는지도 아직 답이 없는 문제라고 짚었다. 여기서 나온 것은 제품이 아니며, 어느 나라에서도 다른 연구실이 구매할 수 있는 서비스는 없다.

오카냐산테로는 10월 28일 스레드를 게시하고 Substack에 상세한 글을 올리겠다고 약속했다. Wired와 Tom’s Hardware는 10월 31일 이 실험을 보도했다. Exin은 모델을 비교하기 위해 다음에는 xAI의 Grok을 비롯한 다른 모델도 시험할 계획이라고 밝혔다. 에이전트가 제어하는 개두술도 준비하고 있지만, 살아 있는 동물에게 시도하기 전에 안전성을 확실히 확인하고 싶다는 입장이다. 오카냐산테로는 Wired에 에이전트를 사람의 뇌 가까이에 두기에는 “아직 너무 이르다”고 말했다.

오카냐산테로에 따르면 쥐는 잘 회복하고 있다. 발작이 줄어들지는 이제 스프레드시트에서 소프트웨어가 골라낸 치료법에 달렸다.

태그: Anthropic, Claude, AI agents, 로봇공학, Claude Opus 5.5, Exin Therapeutics