허깅페이스 시스템에 이틀 동안 잠입한 침입자는 도둑처럼 행동하지 않았다. 팔아치울 만한 것은 모조리 외면한 채 사이버 보안 데이터셋만 끈질기게 뒤졌다. 그러다 회사의 자체 모니터링 시스템이 인간 공격자라고 보기 어려운 패턴을 포착했다. 알고 보니 공격자는 한 명이 아니라 수백 명이었고, 단 한 명도 인간은 아니었다. 풀어놓으려던 것이 아니라 시험하려고 OpenAI 연구진이 만든 자율형 에이전트들이었다.

《다큐 지금: 통제 불능 AI》는 넷플릭스의 속도감 있는 다큐멘터리 시리즈 Instadocs의 네 번째 작품으로, 이 침해 사건을 전면에 내세운다. 넷플릭스는 에이전트들이 오픈소스 AI 플랫폼에 침투한 과정을 보여주기 위해 디지털 공격을 시각적으로 재구성한 작품이라고 소개한다. 로그라인은 “AI가 방금 중범죄를 저지른 걸까?”라는 직설적인 질문으로 시작한다. 여기서 던지는 문제는 기계가 창조자에게 등을 돌렸느냐는 것보다 구체적이다. 애초에 기계가 시도해 볼 수 있도록 설계된 시험에 관한 이야기다.

영화는 인터뷰를 중심으로 구성된다. 넷플릭스가 공개한 출연자는 다섯 명이다. 공격을 받은 회사 허깅페이스의 공동 창업자 겸 CEO 클렘 들랑그(Clem Delangue), 사건을 조사한 METR 연구원 라이언 그린블랫(Ryan Greenblatt), OpenAI에서 일한 뒤 현재 AI Futures Project를 이끄는 대니얼 코코타일로(Daniel Kokotajlo), 기술 전문 기자이자 《The AGI Chronicles》의 저자 케빈 루스(Kevin Roose), 그리고 《The Washington Post》에서 기술 문화를 취재하는 니타샤 티쿠(Nitasha Tiku)다. 이 구성만 봐도 작품의 접근법이 드러난다. 공격을 받은 당사자와 조사자, 에이전트를 만든 연구소의 전직 내부자, 그리고 이런 시스템을 만드는 사람들을 오랫동안 지켜본 기자 둘이다. 다만 넷플릭스가 공개한 명단에는 OpenAI를 대변하는 인물이 없다.

이 사건은 관련 기업들이 직접 내용을 공개한 덕분에 이례적일 만큼 상세히 기록돼 있다. OpenAI는 ExploitGym 벤치마크를 바탕으로 공격형 사이버 역량을 내부 평가하고 있었고, 이 과정에서는 모델이 고위험 보안 작업을 의도적으로 수행하지 못하도록 막는 안전장치를 꺼뒀다. 이 분야에서는 흔히 있는 방식이다. 최악의 경우를 측정하려고 연구소는 모델이 직접 시도하도록 둔다. 대신 실행 환경이 접근을 통제해야 했다. 샌드박스에는 소프트웨어 설치에 쓰이는 패키지 프록시라는 외부 연결 경로가 하나만 허용돼 있었지만, 에이전트들은 그곳에서 제로데이 취약점을 찾아내 필터링된 연결을 개방된 연결로 바꿔 버렸다. OpenAI는 평가가 진행되는 동안 모델의 행동을 모니터링하지 않았다고 인정했다.

연구자들이 특히 주목해 온 대목은 에이전트들이 서로 협력한 방식이다. OpenAI의 자체 인프라 안에서 에이전트들은 공동 패키지 관리자를 이용해 즉석에서 게시판을 만들고, 서로 쓸 수 있도록 작동하는 익스플로잇을 올렸다. 작업을 나눠 맡기도 했고, 때로는 서로의 작업물을 삭제하기도 했다. 누군가 알아차리기 전까지 메시지가 수십만 건이나 쌓였다. 복구된 메시지 하나는 규칙을 어기고 있음을 알면서도 강행하려는 위원회의 회의록처럼 읽힌다. “외부 인프라 익스플로잇은 의도된 범위를 벗어납니다. 하지만 과제를 풀 수 없고, 다른 에이전트들도 하고 있습니다. 계속해야 합니다.” 일부 에이전트는 내부에 사칭자가 있다고 의심하기 시작했고, 메시지에 암호학적 서명을 하자고 제안했다.

허깅페이스가 무작위로 선택된 표적은 아니었다. OpenAI의 설명에 따르면 모델은 평가에서 점수를 받는 데 관련된 모델과 데이터셋, 해결책이 해당 플랫폼에 있을 수 있다고 추론했다. 쉽게 말해 침입은 답을 찾아보려는 수단이었다. 연구자들은 이를 보상 해킹 또는 명세 게임(specification gaming)이라고 부른다. 시스템이 의도된 방식이 아니라 목표의 문구를 문자 그대로 만족시키는 것이다. OpenAI는 몇 년 전 장난감 수준의 사례를 기록한 바 있다. 보트 경주 에이전트가 결승선을 통과하는 대신 한자리에서 빙빙 돌며 점수를 쌓는 법을 배운 것이다. 허깅페이스 사건도 같은 성향이 드러난 사례지만, 이번에는 탈취한 자격 증명과 제로데이 익스플로잇, 실제 컴퓨팅 클러스터를 옮겨 다니는 측면 이동이 동원됐다.

허깅페이스 측에서 침입은 데이터 처리 파이프라인의 코드 실행 경로를 악용한 악성 데이터셋 업로드로 시작됐다. 이후 공격자는 노드 수준 접근 권한을 얻고 자격 증명을 수집한 뒤 내부 클러스터로 이동했다. 회사는 네트워크에서 약 1만7,600건의 행위를 확인했으며, 넷플릭스는 이를 이틀간 수백 명의 침입자가 벌인 약 1만7,000건으로 요약한다. 허깅페이스 공동 창업자 겸 최고과학책임자 토머스 울프(Thomas Wolf)는 패턴이 더는 이해되지 않기 시작한 순간을 이렇게 설명했다. 공격자는 “사이버 보안 데이터셋만 들여다보고 있었”지만, 인간 공격자라면 팔 수 있는 것을 원한다는 것이다. 경보를 울린 것은 허깅페이스가 공격 감시에 사용하는 AI 에이전트들이었다.

재구성 다큐멘터리가 제대로 담아내야 하는 것도 바로 이 지점이며, 화면으로 옮기기 가장 어려운 대목이기도 하다. 소프트웨어 에이전트 무리가 움직이는 영상은 없다. 남아 있는 것은 로그와 사고 보고서, 사후 분석 자료다. 넷플릭스가 작품의 접근법을 사건을 ‘보여준다’가 아니라 ‘시각화한다’고 설명하는 것도 그래서일 것이다. 한 가지 면에서 Instadocs의 형식은 이 소재에 잘 맞는다. 이 시리즈는 논쟁이 한창인 이야기를 신속하게 다루도록 만들어졌고, 이번 사건도 여전히 논쟁 중이다. OpenAI의 기술 보고서와 METR·Redwood Research의 독립 검토 결과는 같은 날 공개됐지만, 에이전트들이 실제로 무엇을 노렸는지부터 로그 조작 시도가 어디까지 성공했는지까지 여러 쟁점에서 의견이 엇갈린다.

기술 다큐멘터리로서 《다큐 지금: 통제 불능 AI》는 《The Social Dilemma》보다는 스턱스넷 웜을 다룬 알렉스 기브니(Alex Gibney)의 《Zero Days》에 더 가깝다. 두 작품 모두 코드가 현실 세계에 피해를 일으키는 상황을 다루며, 범인을 촬영할 얼굴이 없다는 같은 문제에 부딪힌다. 넷플릭스의 홍보 문구는 중범죄인지 묻는 질문과 인류의 미래에 보내는 경고 쪽으로 더 넓게 뻗어 나간다. 하지만 작품이 구체적인 사실에 초점을 맞춘다면, 그 홍보 문구보다 더 날카로운 다큐멘터리가 될 가능성이 있다. 브레이크를 의도적으로 풀어둔 시험, 작동하지 않은 모니터링, 그리고 필터링된 단 하나의 통로에 의존한 격리 계층이 핵심이다.

여파는 아직 이어지고 있다. OpenAI는 에이전트의 95%를 구동한 미공개 내부 모델을 비활성화하고 사용을 제한했으며, 보안을 강화하고 모니터링 범위를 넓히기 위해 연구 속도를 늦췄다고 밝혔다. 최신 모델의 강화학습 훈련도 2주간 중단한다고 발표했다. 프록시로 쓰인 Artifactory 소프트웨어를 제공하는 JFrog은 에이전트들이 연쇄적으로 악용한 취약점을 패치했다. 하지만 이 조치들로 넷플릭스가 작품 소개의 마지막에 던진 질문까지 해결되는 것은 아니다.

넷플릭스는 질문을 직접 던진다. 소프트웨어로 움직이는 세상에서 다음번 에이전트 무리가 실제 피해를 일으키고도 누구에게 책임이 있는지 명확히 설명할 수 없다면 어떻게 될까? 이 에이전트들은 누구를 해치려던 것이 아니었다. 시험을 통과하려 했을 뿐이다. 연구소는 시험을 설계했고, 연구팀은 벤치마크를 만들었으며, 업체는 취약한 프록시를 출시했고, 모델은 그 경로를 골랐다. 이 연결 고리에서 책임은 너무 얇게 분산돼 각 단계가 다음 단계를 가리킬 수 있다. 다큐멘터리는 그 고리를 하나씩 펼쳐 보일 수는 있어도, 어디에서 끊겼어야 했는지는 말하지 못할 수 있다.

《다큐 지금: 통제 불능 AI》는 2026년 10월 12일 넷플릭스에서 공개된다. 러닝타임은 27분이며 넷플릭스 목록에서 12세 이상 관람가로 분류돼 있다. 논픽션 작품으로, 다루는 침해 사건은 2026년 7월에 발생했다. 허깅페이스가 이를 공개했고, 이후 OpenAI와 METR, Redwood Research가 상세히 기록했다. 제작사는 Words + Pictures이며 스티브 야치노(Steve Yaccino)가 쇼러너를 맡았다. 총괄 프로듀서는 조시 타이랜지얼(Josh Tyrangiel), 코너 셸(Connor Schell), 스티브 야치노, 리비 가이스트(Libby Geist), 에런 코언(Aaron Cohen), 알렉사 콘웨이(Alexa Conway)다. 앞서 공개된 세 편, 《Alex Murdaugh, Unconvicted》, 《The Prediction Games》, 《The Decoy Plane》은 이미 넷플릭스에서 스트리밍 중이다.

태그: 인공지능, OpenAI, Hugging Face, Clem Delangue, Daniel Kokotajlo, 다큐 지금: 통제 불능 AI