엘리저 유드코프스키, AI에 대한 공포를 베스트셀러로 만든 팬픽션 작가

엘리저 유드코프스키

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

출생	1979년 9월 11일 미국 시카고
직업	작가·AI 연구자

샘 올트먼이 초지능을 향한 경쟁이 어떤 결말로 이어질 수 있는지 OpenAI 직원들에게 설명하면서, 세 가지 시나리오 가운데 하나에 사람 이름을 붙였다는 보도가 나왔다. 「엘리에저 계획」은 한 연구소가 자기 개선형 AI를 가장 먼저 개발한 뒤, 그 우위를 이용해 경쟁자들이 컴퓨팅 자원에 접근하지 못하도록 차단한다는 구상이다. 올트먼은 이 계획을 언급하면서 끔찍한 생각이라고 선을 그었다. 이 이야기에 따라붙은 「다른 모든 GPU를 녹여버린다」는 표현은 엘리에저 유드코스키가 AI 위험을 다룬 에세이에서 직접 든 예를 떠올리게 한다. 그는 「모든 GPU를 불태우는 것」을 사례로 들면서 곧바로 이렇게 덧붙였다. 「강력한 AGI를 손에 넣었을 때 실제로 하고 싶어 할 일은 아니라고 생각한다.」

최고경영자가 전략에 그의 이름을 붙였다는 사실은 그의 생각이 얼마나 널리 퍼졌는지를 보여준다. 그리고 그 생각이 전파된 경로는 거의 전부 글이었다. 엘리에저 유드코스키는 학위가 없는 AI 연구자이자 무엇보다 왕성한 작가다. 수백 편의 블로그 에세이, 장편 해리 포터 소설, 그리고 제목만으로도 의도를 숨기지 않는 베스트셀러를 썼다.

그는 1979년 9월 11일 시카고에서 태어나 현대 정통파 유대교 가정에서 자랐으며, 지금은 세속주의자다. 만성적인 건강 문제로 중학교를 그만둔 그는 고등학교나 대학에 진학하지 않았다. 스무 살이던 2000년, 브라이언과 사빈 앳킨스의 후원을 받아 인공지능 특이점 연구소(Singularity Institute for Artificial Intelligence)를 세웠다. AI의 도래를 앞당기는 것이 설립 목표였다. 그러나 자신이 만들려던 기술에 곧 우려를 품게 됐고, 연구소는 2005년 무렵부터 개발자보다 더 똑똑한 기계를 어떻게 통제할지 연구하기 시작했다. 2013년에는 버클리에 기반을 둔 머신 인텔리전스 연구소(Machine Intelligence Research Institute)로 이름을 바꿨다.

추천 기사오픈AI CEO 샘 올트먼, AI의 세 가지 결말 제시…두 가지는 2023년에 이미 내놓은 구상

본격적인 글쓰기는 2006년 11월 시작됐다. 유드코스키는 경제학자 로빈 핸슨과 함께 인간의 합리성을 다루는 공동 블로그 Overcoming Bias의 주요 필진이 됐다. 2009년 2월, 그의 게시물은 「인간 합리성의 기술을 갈고닦는」 데 초점을 맞춘 커뮤니티 블로그 LessWrong의 씨앗이 됐다. 이곳은 스스로를 합리주의자라고 부르는 운동의 대표적인 온라인 거점으로 성장했다. 「시퀀스」라는 이름으로 잘 알려진 그의 에세이는 인지 편향과 베이즈 정리, 그리고 똑똑한 사람들이 스스로를 속이는 방식을 파고들었다. MIRI는 2015년 그중 300편이 넘는 글을 모아 Rationality: From AI to Zombies로 출간했고, 2017년에는 사회가 고칠 수 있는 문제를 왜 방치하는지 다룬 짧은 책 Inadequate Equilibria를 냈다. 스튜어트 러셀과 피터 노빅은 표준 AI 교과서에서 그의 제안을 논하고, 닉 보스트롬은 Superintelligence: Paths, Dangers, Strategies에서 그를 인용한다.

그리고 소설이 나왔다. 팬들 사이에서 HPMOR로 불리는 Harry Potter and the Methods of Rationality는 2010년 2월 28일부터 2015년 3월 14일까지 FanFiction.Net에 연재됐다. 총 122장, 66만 단어가 넘는 작품이다. 원작 설정에서 단 하나의 세부 사항을 바꾼 것이 출발점이다. 페투니아 에번스가 옥스퍼드 교수 마이클 베레스와 결혼하고, 고아가 된 해리는 과학을 배우며 집에서 교육받는다. 그래서 호그와트에 도착한 소년은 과학적 방법으로 마법을 시험하고 마법사 세계의 모순에 의문을 품는다. 래번클로 기숙사에서 그는 드레이코 말포이와 헤르미온느 그레인저, 퀴렐 교수를 만난다. 이야기의 분위기는 농담에서 예상되는 것보다 훨씬 어두워지지만, 진짜 주제는 사고하는 법이다.

독자들의 반응은 극명하게 갈렸다. 2011년 The Atlantic은 팬픽션 게시판에서 작품이 「원작을 모독했는가, 아니면 탁월하게 재해석했는가」를 놓고 벌어진 논쟁을 전하며, SF 작가 데이비드 브린이 이 작품을 「섬세하고 극적이며 생각을 자극하는 훌륭한 연작」이라고 평한 말을 인용했다. 법학자 윌리엄 보드는 The Washington Post에서 한발 더 나아가 이렇게 썼다. 「J.K. 롤링이 쓴 것은 아니지만, 지금까지 나온 해리 포터 책 가운데 최고다.」 TechCrunch의 아만다 실버링은 「정말 지루하다」고 했다. 유드코스키는 롤링의 설정을 걷어내고 이야기를 독립적인 소설로 출간하자는 제안을 거절했다. Fifty Shades of Grey가 Twilight 팬픽션에서 출발해 독립 작품으로 나온 것과 같은 길이었다. 그는 이렇게 말했다. 「HPMOR는 본질적으로 원작 해리 포터 소설과 연결돼 있으며, 그 배경을 두고서만 이해할 수 있다.」

그의 경력에서 아이러니한 점은 AI 위험을 가장 강하게 경고해온 인물이 동시에 사람들을 AI 개발로 이끌기도 했다는 것이다. 2023년 2월 올트먼은 유드코스키가 「우리 중 상당수가 AGI에 관심을 갖게 했고」, DeepMind가 자금을 지원받는 데 기여했으며, 「OpenAI를 시작하기로 한 결정에 결정적인 역할을 했다」고 썼다. 그해 봄 유드코스키는 Time 기고문을 통해 대규모 AI 학습을 무기한 전 세계적으로 중단하자고 촉구했고, Time은 그를 2023년 AI 분야에서 가장 영향력 있는 인물 100인에 선정했다.

그의 주장을 가장 직접적으로 담은 책은 2025년 9월 16일 출간됐다. MIRI 동료 네이트 소아레스와 함께 쓴 이 책은 Little, Brown에서 펴낸 If Anyone Builds It, Everyone Dies다. 저자들은 현대 AI 시스템이 설계되는 것이 아니라 길러진다고 주장한다. 수십억 개의 숫자 가중치로 학습되지만 개발자조차 그 내용을 읽을 수 없기 때문에, 결국 인간보다 똑똑해진 시스템의 목표를 누구도 확실하게 설정할 수 없다는 것이다. 저자들에 따르면 인류는 체스 엔진 Stockfish를 상대로 사람들이 패배하듯 초지능에 무릎을 꿇게 되며, 안전을 보장할 유일한 방법은 국제적인 공조를 통해 개발을 멈추는 것이다. 이 책은 The New York Times 하드커버 논픽션 부문과 종합 논픽션 부문 베스트셀러 목록에 올랐다.

서평은 소설을 둘러싼 독자들의 반응만큼이나 엇갈렸다. The Guardian의 데이비드 샤리아트마다리는 이 책이 「결론을 받아들이기 어려운 만큼이나 명료하다」고 평했다. The Observer의 이언 레슬리는 「명료함과 생동감, 그리고 가까스로 억누른 환희」를 높이 샀다. The New York Times에서 스티븐 마르셰는 이 책을 사이언톨로지 교본에 빗댔고, The Atlantic의 애덤 베커는 더 단호하게 말했다. 「그들은 그저 틀렸다.」

이 논쟁은 이제 스크린으로 옮겨갔다. 유드코스키는 대니얼 로어 감독의 다큐멘터리 The AI Doc: Or How I Became an Apocaloptimist에 요슈아 벤지오, 팀닛 게브루와 함께 출연한다. AI 시대에 아버지가 된다는 이야기를 다룬 이 작품은 2026년 9월 15일 Netflix에서 공개됐다. 통제된 실험을 수행하는 소년 마법사와 실험을 중단하자고 주장하는 공동 저자는 같은 작가다. 그는 여전히 독자들에게 불편한 마지막 단계에 이르더라도 추론의 사슬을 끝까지 따라오라고 요구한다.

태그: 인공지능, Sam Altman, 작가, Bret Easton Ellis, Imelda Staunton, J. K. Rowling

비슷한 콘텐츠

유발 하라리, 인류 이야기를 세계적 베스트셀러로 만든 중세 전쟁사학자

오픈AI 샘 올트먼, 유엔서 경고: “AI는 사람을 위해 만들어져야 하며, 그저 기계를 더 빨리 돌리기 위한 것이 아니다…”

샘 올트먼: 위험하다고 경고한 것을 더 빠르게 만들고 있다

무스타파 술레이만, AI 억제를 외치며 초지능을 만드는 MS 수장

샘 올트먼: “우리는 이제 특이점 안에 있다”

엔비디아 젠슨 황 “AI 사이버 사고 단 한 건도 용납 못 해”…AI 비관론자엔 “개발 그만둬야”