AI

편지 한 통에 앤트로픽의 Fable 5·Mythos 5가 전 세계에서 멈췄다

경쟁사가 이미 팔지 않는 것은 아무것도 막지 못하는 “수출 통제”, 그리고 모든 것을 막는 선례
Adrian Kessler

미국이 앤트로픽에 가장 뛰어난 두 모델인 Fable 5와 Mythos 5를 차단하라고 명령한 일에서 정말 눈길을 끄는 대목은 그것이 해외의 누구를 해치느냐가 아니다. 얼마나 적은 것으로 충분했느냐다. 상무장관의 편지 한 통이면 그것들을 끄기에 충분했다. 그것도 한 나라가 아니라, 지구상의 모든 고객을 향해서다.

여기서 잠시 멈춰 볼 필요가 있다. 이 조치는 수출 통제로 포장됐다. 보통은 반도체와 위성에나 쓰이는 관료적 장치다. 그러나 수출 통제는 막아야 할 무언가가 있다는 것을 전제로 한다. 여기엔 그것이 없을지도 모른다.

아무것도 막지 못하는 통제

정부가 내세운 발단은 jailbreak였다. 모델이 해서는 안 될 일을 하도록 유도될 수 있다는 증거다. 앤트로픽 자신의 설명은 더 좁고 훨씬 맥이 빠진다. 문제의 수법은 모델에게 어떤 코드를 읽고 보안 결함을 짚어 내라고 시킨 것에 불과한데, 보안 엔지니어가 매일 하는 일이다. 회사는 같은 능력이 지금 출시돼 팔리는 경쟁 시스템들, OpenAI의 최신 모델을 포함해 이미 들어 있다고 말한다. 그것이 사실이라면, 한 회사의 최신 두 모델을 겨냥한 통제는 그 밑바탕의 능력을 누구의 손에서도 떼어 놓지 못한다. 그저 앤트로픽의 버전을 진열대에서 내릴 뿐이다.

여기서 공식 서사의 첫 균열이 드러난다. 국가 안보를 내건 수출 통제는 오직 나만 가진 것을 적에게 주지 않기 위한 것이다. 이번 통제는 누구에게도 무엇을 막지 않는다. 통제 대상인 그 연구소와 그 자신의 고객을 빼고는. 기술을 막는 방법으로는 앞뒤가 맞지 않는다. 한 회사를 겨눈 압박으로는 놀랍도록 정확하다.

충돌은 jailbreak에서 시작되지 않았다

이 회사를 향한 압박은 새삼스러운 일이 아니다. 정부는 겨우내 앤트로픽과 싸웠다. 그 정치 성향과 후원자들을 들여다봤고, 이어 연구소가 Claude의 군사적 사용에서 안전장치를 떼어 내라는 국방부의 요구에 맞서자 모든 연방 기관에 그 소프트웨어 사용을 중단하라고 명령했다. 고위 인사들은 그 경영진을 “좌파 미치광이”라고 불렀다. 이 맥락에서 읽으면, 금요일 저녁에 사유도 공개하지 않은 채 보낸 편지 한 통은 산업 전략이라기보다 손에 잡히는 다음 지렛대처럼 보인다.

보도의 대부분은 다른 두려움에 매달렸다. 워싱턴이 가장 좋은 모델을 동맹국으로부터 벽으로 가로막으면서도 첨단 반도체는 계속 중국에 팔아, 인공지능 경쟁을 베이징에 넘겨주고 있다는 것이다. 정부 자신의 AI 계획을 함께 쓴 한 분석가는 이 결정을 “당혹스럽다”고 평했고, 논리는 실제로 거꾸로 서 있다. 그러나 중국이라는 각도는 예측이지 사실이 아니며, 그것을 좇다 보면 정작 벌어진 일을 놓친다. 벌어진 일은 그 작동 방식 자체다.

선례가 곧 뉴스다

모델은 사용자의 여권을 실시간으로 확인할 수 없으므로 “외국인을 차단하라”에는 실행 가능한 의미가 하나뿐이었다. 모두를 차단하는 것이다. 앤트로픽이 전 세계에서 시스템을 끈 것은, 명령을 따르자면 다른 문이 남지 않았기 때문이다. 그것이 이제 기록에 남은 선례다. 정부는 사적인 미국 기업 안으로 손을 뻗어 그 가장 뛰어난 제품을 끌 수 있음을 보여 주었다. 전 세계에 걸쳐, 하룻저녁에, 편지 한 통으로, 공개할 의무가 있는 사유도 없이, 기업이 제때 다툴 수 있는 절차도 없이.

상무장관 하워드 러트닉이 최고경영자 다리오 아모데이에게 보낸 이 편지는 6월 12일 동부시간 오후 5시 21분에 도착해, 국가 안보 권한을 근거로 모델의 모든 수출·재수출·국내 이전에 허가를 요구했다. Fable 5와 Mythos 5는 공개된 지 며칠밖에 되지 않았다. 9,650억 달러로 거론되는 기업가치로 증시 상장을 준비 중인 앤트로픽은 이번 명령이 오해라고 믿으며 접근 복구에 힘쓰고 있다고 밝혔다. 그리고 같은 잣대를 똑같이 적용하면 “모든 첨단 모델 공급사의 신규 모델 배포를 사실상 전부 멈추게 할 것”이라고 경고한다.

그 경고가 바로 단서다. 규칙이 안보를 위한 것이라면 모두를 묶었을 것이다. 묶은 것은 하나였다. 정부가 두렵다고 말하는 그 능력은 오늘 아침에도 팔리고 있다. 다른 누군가의 손으로. 달라진 것은 중국이 무엇을 만들 수 있느냐가 아니다. 달라진 것은, 다음 편지는 자신을 정당화하는 데 더 이상 jailbreak가 필요하지 않다는 점이다.

태그: , , , ,

토론

댓글 0개가 있습니다.