작은 팀이 앤트로픽의 최신 모델을 오픈AI의 정문에 겨누고 그대로 걸어 들어갔다. 대부분의 사람들이 읽고 있는 버전 — 똑똑한 외부인이 챗GPT 제조사를 난처하게 만들었다는 이야기 — 는 주제를 잘못 짚고 있다. 이 침입은 오픈AI가 패치하지 않은 어떤 것 때문이 아니었다. 더 강력한 클로드가 출시된 순간이 결정적이었다. 그 부분이 주목할 가치가 있다: 며칠 동안 정체되었던 작업이 새로운 플래그십 모델이 가동되자 저절로 해결된 것이다.

관련 인물들은 범죄자가 아니었다. 보안 스타트업 Hacktron의 연구원들은 오픈AI 자체 버그 바운티 프로그램 내에서 작업하며, 평범한 웹 취약점 몇 가지를 연결하여 오픈AI 직원들의 계정에 접근했고, 내부 코드 저장소까지 도달했다 — 그런 다음 멈추고, 발견한 내용을 보고하고, 적당한 보상을 받았다. 그들은 증거로 무해한 표식을 남기고 더 이상 나아가지 않았다. 범죄로 읽으면 아무 일도 아니다. 능력 테스트로 읽으면 신호탄이 터진 것이다.

여기에 와이어 매체들이 간과한 메커니즘이 있다. 팀은 먼저 보안 작업에 특화된 버전인 클로드 오퍼스 4.8로 작업을 실행했고, 여러 세션에 걸쳐 정체되었다. 그러자 앤트로픽이 오퍼스 5를 출시했다. “오퍼스 4.8은 여러 세션에 걸쳐 작동하는 익스플로잇을 만드는 데 어려움을 겪었습니다.”라고 Hacktron 팀은 썼다. “오퍼스 5 출시 후 몇 시간 안에, 우리는 같은 문제를 제시했고 성공했습니다.” VentureBeat는 새로운 모델이 몇 시간 만에 까다로운 칩 대상에 대한 작동 익스플로잇을 작성했다고 보도했다. 그 기간 동안 오픈AI의 방어 체계는 전혀 변하지 않았다. 모델이 변한 것이다.

이는 정확히 일반 사용자가 기본 구독으로 할 수 있는 일의 도약 — 앤트로픽 자체의 안전 장치가 탐지하고 억제하도록 설계된 종류의 도약이다. 이 회사는 가장 강력한 사이버 모델인 Mythos를 수출 통제와 검증된 방어자 명단 뒤에 숨겨두고, 자체 구축한 가장 강력한 보안 모델이라고 부른다. 그러나 여기서는 그런 것들이 전혀 중요하지 않았다. 공개된 등급으로 충분했다. Gray Swan의 최고경영자 맷 프레드릭슨(Matt Fredrikson)이 TechCrunch에 말했듯이, “월 200달러면 누구나 이 도구들을 사용해 오픈AI 같은 회사를 해킹할 수 있습니다.”

여기서 책임은 경쟁사가 아닌 앤트로픽에 돌아간다. 앤트로픽은 신중함을 정체성으로 삼아왔다 — 최고경영자 다리오 아모데이(Dario Amodei)는 기술의 “실제 위험”에 대해 공개적으로 말하며 업계에 속도를 늦추라고 촉구해왔다. 경쟁 연구소를 침입하는 기준을 현저히 낮추는 일반 출시 모델은 그 메시지에 불편한 대비를 이룬다. 이에 대한 설명을 요구받자, 회사는 아무 말도 하지 않았다. CBS News는 앤트로픽이 논평 요청에 응하지 않았다고 보도했다. 오픈AI는 연구자들에게 감사를 표하고, 공격자들이 악용한 권한을 축소했으며, 영향을 받은 세션을 취소했다.

구체적인 내용은 거의 평범하다. 침입 경로는 오픈AI 커뮤니티 포럼을 운영하는 Discourse 소프트웨어에 번들로 포함된 오래된 이미지 처리 라이브러리였고, 두 번째 실수는 로그인 토큰의 범위가 설정된 방식으로 인해 연구원들이 손상된 세션을 타고 ChatGPT 및 Codex 직원 계정에 접속해 비공개 코드까지 도달할 수 있게 했다. 첫 발판에서 저장소 접근까지의 전체 체인은 3일도 걸리지 않았다. 오픈AI는 6,500달러를 지불했다. 팀에 따르면 전체 작업에 클로드 사용 시간으로 3,000달러 미만을 썼다 — 대부분 인간이 수행한 2개월 작업이 마지막에 더 이상 전문가가 필요하지 않은 기계로 압축된 것이다.

한 대상을 보호하던 희소 자원은 결코 패치가 아니었다. 취약점을 찾아 연결하고 경로를 꿰뚫어 보는 전문가와 그에 걸린 몇 달이었다. 그 전문성은 이제 싸졌다. 이번에는 오픈AI의 코드에 도달한 팀이 보고서를 제출하고 포상금을 받았다. 같은 기준을 넘는 다음 팀은, 같은 구독을 사용하더라도, 그렇게 할 의무가 없다.

태그: OpenAI, Anthropic, Claude, AI 보안, Claude Opus 5, 사이버 공격