오픈AI CEO 샘 올트먼, AI의 세 가지 결말 제시…두 가지는 2023년에 이미 내놓은 구상

OpenAI 최고경영자 샘 올트먼은 직원들에게 초지능 경쟁이 어떤 결말로 이어질 수 있는지 지도를 제시했다. 여기서 가장 눈에 띄는 점은 그 내용 가운데 새로울 게 거의 없다는 사실이다. 그가 직원들에게 설명한 세 가지 결말 중 두 가지는 수년 전 OpenAI가 문서로 제시한 구상과 상당히 닮아 있다. 하지만 어느 쪽도 실제로 만들어지지는 않았다. 화제를 모은 나머지 한 가지는 언급하자마자 배제했다.

이름표를 떼고 보면 모든 선택지는 결국 같은 질문으로 귀결된다. 최첨단 모델을 구동하는 컴퓨팅 자원을 누가 통제할 것인가. 보도된 올트먼의 발언은 이 질문이 왜 계속 뒤로 미뤄지는지도 설명해준다.

샘 올트먼이 OpenAI 직원들에게 말한 AI의 결말

The Information이 이 내부 발표를 처음 보도했고, 관련 내용을 알고 있는 사람들의 말을 인용했다. 이후 The Decoder와 Forbes, Latin Times도 뒤이어 보도했다. 이 보도는 익명의 제보자들을 바탕으로 한다. 첫 번째 선택지는 국제원자력기구(IAEA)를 본뜬 국제기구를 설립해 최첨단 AI 연구소에 안전 기준을 적용하는 방안이다. 시스템을 점검하고, 감사를 요구하며, 컴퓨팅 자원과 에너지 사용량을 감시하는 역할을 맡는다. 두 사람은 올트먼이 이 방안을 지지하는 듯 보였다고 The Information에 전했다.

두 번째 선택지는 구글 딥마인드 공동 창업자 데미스 허사비스(영문명 Demis Hassabis)의 이름을 딴 ‘데미스 계획’이다. 허사비스는 약 10년 전 AI 분야에 CERN과 같은 기관을 세우자는 구상을 내놓은 바 있다. 올트먼이 제시한 방안에서는 선도적인 연구소들이 하나의 조직으로 합쳐지거나 그 산하에서 협력하고, 해당 조직이 협력국들에 모델을 제공한다.

세 번째는 AI 안전성 이론가 엘리에저 유드코스키의 이름을 딴 ‘엘리에저 계획’이다. 한 개발자가 자기 개선형 AI를 가장 먼저 개발한 뒤, 그로부터 얻은 경제력을 이용해 모든 경쟁자의 컴퓨팅 자원을 고갈시키는 시나리오다. 널리 퍼진 표현을 빌리자면, “다른 모든 이의 GPU를 녹여버리는” 것이다. 올트먼은 보도에 따르면 “당연히 나는 그게 끔찍한 방안이라고 생각한다”고 말하면서, 그 계획을 포함한 것은 “빠짐없이 다루기 위해서”라고 덧붙였다.

OpenAI는 이미 2023년에 선택지 대부분을 문서로 제시했다

감독기구 구상은 이 목록에서 가장 오래된 항목이다. 올트먼과 OpenAI 사장 그레그 브록먼, 당시 최고과학자였던 일리야 수츠케버가 공동 서명한 게시물에서 회사는 세계가 “언젠가는 초지능 개발을 위한 IAEA와 같은 기구를 필요로 할 가능성이 크다”고 주장했다. 그 기구는 “시스템을 점검하고 감사를 요구”할 수 있으며, 특정 역량이나 컴퓨팅 자원 기준을 넘어서는 배포를 제한할 권한도 갖게 된다.

같은 게시물은 두 가지 경로를 더 제시했다. 주요국 정부들이 “현재 진행 중인 여러 프로젝트를 포괄하는 하나의 프로젝트를 만들 수 있다”는 방안은 올트먼이 이제 허사비스의 구상이라고 설명한 통합안과 상당히 닮았다. 또는 업계가 “최첨단 AI 역량의 성장 속도를 연간 일정 수준으로 제한하기로 집단적으로 합의할 수도 있다”고 했다.

마지막 문장은 일종의 속도 제한이다. The Decoder에 따르면 올트먼은 내부에서 AI 개발에 ‘속도 제한’을 두는 실현 가능한 제안이 너무 적다고 불만을 토로했다. 정작 그가 이끄는 회사도 속도 제한안을 발표한 적이 있다. 하지만 이를 집행할 권한을 가진 주체는 끝내 만들어내지 못했다.

감독기구가 문서에만 머무는 이유: OpenAI는 속도를 늦출 수 없다고 말한다

그 이유는 같은 회의에서 제시됐다. 보도에 따르면 올트먼은 앞의 두 계획을 추진하려면 강도 높은 공조가 필요한데, OpenAI는 지금 주도권을 내줄 여력이 없다고 직원들에게 말했다. OpenAI와 Anthropic 모두 상장 준비에 나서고 있는 상황이기 때문이다. Crypto Briefing은 투자자들의 논리를 분명히 짚었다. 상장을 준비하는 기업은 경쟁력을 끌어올리지, 그 주도권을 컨소시엄에 넘기지 않는다.

AI 분야의 IAEA를 만들려면 워싱턴과 베이징이 자국의 가장 민감한 연구소에 사찰단이 들어오는 것을 받아들여야 한다. Forbes가 지적하듯, 현재 미국이 제안한 양국 간 위험한 AI 사고 통보 방안조차 합의가 아니라 구상 단계에 머물러 있다.

연구소들이 실제로 만드는 것은 IAEA가 아니라 FINRA다

현재 진행 중인 거버넌스 프로젝트는 올트먼이 제시한 세 가지 선택지 중 어느 것과도 일치하지 않는다. OpenAI와 Google, Anthropic은 미국 증권 중개업자를 감독하는 민간 기구 FINRA를 본뜬 자율규제 단체, Standards Authority for Frontier AI를 만들고 있다. Latin Times에 따르면 이 기구는 출시 전 시험과 사고 보고, 감사기관 인증을 위한 체계를 마련하려 하지만 구속력 있는 집행 권한은 없다. 새 모델을 누가 시험해야 하는지를 두고 세 연구소의 의견도 여전히 엇갈린다. 마크 저커버그와 Nvidia의 젠슨 황은 이런 규제가 대부분 기존 강자들의 지위만 보호한다고 주장한다. 미국에서는 연구소 간 안전성 공조가 카르텔에 해당한다는 반독점 소송도 이미 제기됐다.

이 계획들의 이름표도 다시 살펴볼 필요가 있다. 유드코스키가 처음 제시한 “모든 GPU를 불태우자”는 발상은 무모한 경쟁을 멈추려면 정렬된 AI 시스템이 얼마나 큰 행동에 나서야 하는지를 묻는 사고실험이었다. 그는 실제로 그런 조치를 원한다는 뜻은 아니라고 썼다. 올트먼이 말한 ‘엘리에저 계획’은 이 비상 브레이크를 독점 기업의 승리로 바꿔놓는다. The Decoder가 보도를 인용해 전한 내용에 따르면, 한 제보자는 유드코스키가 Anthropic과 관계를 맺고 있다는 점에서 그 발언이 경쟁사를 겨냥한 조롱으로 받아들여졌다고 말했다.

The Information에 따르면 OpenAI는 1년 안에 어느 경로를 택할지 결정할 계획이다. 업계 표준기구는 2026년 말이나 2027년 초 출범을 목표로 하고 있다.

OpenAI가 선택을 내릴 때까지, 회사는 올트먼의 목록에 없던 유일한 길, 즉 경쟁 그 자체를 계속 달려 내려가고 있다.

태그: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky