AI

OpenAI CEO 샘 올트먼 “RAM 발언, 맥락 잘렸다” 반박… 팟캐스트 전문은 절반만 맞다

그는 게이밍 PC가 아니라 로컬 AI 추론에 관한 질문에 답하고 있었습니다. 그의 주장은 여전히 데이터 센터에 부족한 메모리를 배치하는 것입니다.
Adrian Kessler
Google에서 추가하기

샘 올트먼은 자신이 개인용 컴퓨터에 메모리를 사서 쓰는 사람들 편이라는 점을 분명히 해두고 싶어 한다. OpenAI 최고경영자인 그는 가정용 PC가 전 세계의 부족한 DRAM을 쌓아두고 있다는 발언이 맥락에서 벗어나 인용됐다며, 업계가 메모리 생산량을 늘려야 한다고 오래전부터 주장해왔다고 밝혔다. 전체 대화를 보면 그의 말은 절반만 맞다. 맥락을 살피면 그가 무슨 뜻이었는지는 달라진다. 하지만 공급 부족이 이어지는 동안 그의 주장이 메모리를 어디로 보내는지는 달라지지 않는다.

그는 자신을 향한 농담이 며칠째 이어진 뒤 X에서 해명했고, 그 과정에 장난스럽게 응수하기도 했다. 한 사용자가 계정 이름을 “Ram Altman”으로 바꾸라고 하자, 그는 “ok yeah”라고 답한 뒤 표시 이름을 실제로 바꿨다. 이어 이렇게 설명했다. “나는 세상에 메모리가 아주 많아지고, 사람들이 자기 컴퓨터에 원하는 만큼 메모리를 넣을 수 있기를 정말 바란다. 이 말이 맥락에서 벗어나 인용된 건 정말 짜증 난다.” 그는 덧붙였다. “나는 오래전부터 전 세계가 메모리 생산량을 늘려야 한다고 주장해왔다.”

올트먼이 Cheeky Pint에서 실제로 한 말

문제가 된 발언은 Stripe 공동창업자 존 콜리슨이 진행하고 전체 대화록을 공개하는 팟캐스트 Cheeky Pint에서 나왔다. 해당 대목은 이렇다. “하지만 전 세계적인 자원 배분의 관점에서 보면, 전 세계에 한정된 DRAM 공급량의 상당 부분이 각자의 컴퓨터에 들어가 있고, 실제로는 […] 5%의 시간 동안만 사용되는 건 꽤 끔찍한 일입니다. 공급이 매우 부족한 상황을 해결하려면 클라우드에서 최대한 활용해야 합니다.”

대부분의 보도는 인용문을 이 대목부터 시작했다. 하지만 그 앞에 오간 대화도 중요하다. 콜리슨은 메모리 가격이 치솟는데도 왜 신규 제조업체가 시장에 뛰어들지 않는지 물었다. 올트먼은 “보이지 않는 손이 지금 제대로 작동하지 않고 있다”고 답했다. 그는 수십 년 동안 DRAM 제조업체들이 “200억 달러의 자본 지출을 해 190억 달러를 버는” 식으로 투자하고 호황과 불황을 견뎌왔다고 말했다. 그러나 이제는 각 업체가 “1년에 잉여현금흐름으로 1000억 달러쯤 벌 수 있는” 상황이라고 추산하면서, “그들은 모두 과거를 기억한다. 팹을 너무 많이 지었다가 파산할 뻔한 일이 몇 번이나 있었는지 말이다”라고 했다. 그 뒤에야 그는 자체 장비에서 오픈소스 AI 모델을 돌리는 로컬 추론을 원하는 사람들의 이야기를 꺼냈다. 이런 방식이 데이터센터의 부담을 덜어준다는 주장에 대한 반박이 바로 “꽤 끔찍하다”는 말이었다.

같은 대화 후반부에서 그는 에너지와 칩 비용이 “내려가야 한다”고 말했고, “내려가지 않으면 매우 슬플 것”이라며 “공급은 훨씬 늘어나야 한다”고 했다. 좁은 의미에서 보면 그의 해명은 맞다. 그는 게임용 PC나 영상 편집이 아니라 가정에서의 AI 추론을 이야기했고, 같은 방송에서 생산량 확대도 요구했다.

맥락만으로는 해소되지 않는 문제

공급이 부족한 시장에서 자원 배분을 둘러싼 논쟁은 결국 누가 칩을 가져가느냐의 문제다. “클라우드에서 최대한 활용”하자는 주장은 칩을 데이터센터로 보내며, OpenAI는 그 시장에서 가장 큰 구매자 중 하나다. 삼성전자와 SK하이닉스는 OpenAI의 Stargate 인프라 프로젝트에 메모리를 공급하겠다는 의향서를 체결했다. The Register는 이 약속의 규모가 월간 DRAM 웨이퍼 투입량 약 90만 장에 달한다고 전했다. 의향서에 구속력은 없지만, OpenAI가 시장에서 얼마나 많은 물량을 사들이려는지는 보여준다. Notebookcheck는 이 주장이 OpenAI의 사업 모델에도 들어맞는다고 지적했다. OpenAI의 데이터센터에서 구동하고 구독 방식으로 판매하는 폐쇄형 모델이 그 모델이다.

방송에서 풍요로운 컴퓨팅 환경을 가장 명확하게 언급한 사람도 올트먼이 아니었다. “어떤 이유에서든 컴퓨터를 원하는 사람은 누구나 하나씩 가질 수 있는” “컴퓨팅 과잉”은 콜리슨이 올트먼의 입장을 요약한 표현이었다. 올트먼은 그 말에 직접 답하지 않았다. 대신 데이터센터 관점에서 답하며, 1기가와트 규모의 용량을 5년간 확보하는 데 드는 비용을 약 700억 달러로 추산했고, 이를 200억 달러까지 낮추고 싶다고 말했다.

5%라는 수치에는 근거가 없다

논란을 촉발한 수치에는 이를 뒷받침하는 측정 자료가 없다. PC Games Hardware는 이 수치가 메모리를 얼마나 필요로 하는지가 아니라 메모리가 얼마나 오래 사용 중인지를 나타낸다고 짚었다. 운영체제는 데이터를 캐시에 보관하고, 프로그램은 메모리를 한꺼번에 더 많이 요구하기도 한다. 밤새 사용하지 않는 기가바이트의 메모리도 게임이나 로컬 모델을 불러올 때 필요하다면 장착돼 있어야 한다. 사람들은 활용률 수치만으로는 설명할 수 없는 이유로도 직접 보유한 하드웨어에서 AI를 구동한다. 사생활 보호, 업체가 몰래 바꿀 수 없는 모델을 직접 통제하는 일, 구독료 대신 한 번만 비용을 지불하는 방식 등이 그런 이유다.

일론 머스크도 X에서 “사람들도 자기 RAM을 가질 자격이 있다!”고 거들었다. PC Games Hardware가 지적했듯, 그가 이끄는 AI 사업은 멤피스에서 Colossus 데이터센터를 운영한다.

공급 부족은 이미 매장 가격에 반영되고 있다. 11월 2일, Raspberry Pi는 “16GB DRAM의 대체 공급처 부족”을 이유로 16GB Raspberry Pi 5의 가격을 80달러 올려 385달러로 책정했다. X에서 오간 대화를 널리 알린 보도를 낸 PC Gamer는 OpenAI를 비롯한 AI 업계 탓에 기술 애호가와 게이머가 “새 하드웨어를 살 수 없게 됐다”고 썼다. Cheeky Pint 방송은 10월 29일 공개됐고, 올트먼은 11월 첫 며칠 동안 X에서 답글을 남겼다.

올트먼이 내놓은 해법은 공장을 더 짓는 것이다. 그가 직접 설명했듯, 공장을 지어야 할 기업들은 지난번 누군가 호황이 다르다고 했을 때 파산할 뻔했던 일을 기억한다. 그들이 생각을 바꾸기 전까지 메모리는 이미 그가 설명한 방식대로 배분되고 있다. 가장 많은 돈을 내고 가장 바쁘게 활용하는 구매자에게 가는 것이다. 그 구매자는 데스크톱 사용자가 아니라 데이터센터다.

태그: , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.