일론 머스크의 Grok 관련 최신 소식에서 흥미로운 대목은 프로그래밍 언어가 아니다. 그 안에 담긴 인정이 핵심이다. 차기 모델이 늦어진 이유는 개발팀이 모델 훈련과 서비스에 쓰던 오픈소스 도구를 모두 걷어내고 자체 시스템을 만들었기 때문이다.

출시 예고로 읽으면 이번 게시물은 낙관적이다. 훈련은 끝났고, 평가 점수는 오르고 있으며, 이번 주가 가기 전에 제한적으로 공개하겠다는 내용이다. 하지만 시스템 관점에서 보면 더 큰 이야기가 담겨 있다. 이제 SpaceX의 일부가 된 xAI는 공유 프레임워크가 발목을 잡고 있다고 판단했고, 연구진과 GPU 사이에 놓인 소프트웨어의 모든 계층을 직접 소유하는 데 이번 모델과 그다음 모델을 걸었다.

“JAX/SGLang을 버리고 RL과 추론 스택 전체를 C/C++로 처음부터 다시 썼습니다. 시간이 조금 더 걸렸습니다.” 머스크는 Grok 4.8 출시 시점을 물은 사용자에게 X에서 이렇게 답했다. JAX는 xAI가 모델 훈련에 사용해 온 파이썬 기반 수치 연산 라이브러리이고, SGLang은 대규모 언어 모델을 서비스하기 위한 오픈소스 프레임워크다. 그는 “SFT 데이터에서 손볼 부분이 많았다”며 지도 미세 조정 데이터 정리 작업을 마친 뒤 사전 학습을 끝냈다고 밝혔다. “이제 4.8은 RL 단계에 들어갔고 평가 점수가 오르기 시작했습니다.”

이 발언은 머스크가 직접 만들어낸 공백의 이유를 설명한다. 그는 9월 중순 이 모델을 “새 C++ 소프트웨어 스택으로 훈련한 2.5T 모델”이라고 소개하며 “이번 주 훈련을 마치고 RL을 시작할 것”이라고 했다. 비슷한 시기 Analytics India Magazine 보도에 따르면 그는 강화학습 쪽은 “여전히 여러 서드파티 소프트웨어 시스템이 뒤섞인 다소 낡은 상태”라며 “적절한 때” 손보겠다고 말했다. 10월 말에는 “예상보다 오래 걸린 건 알지만, Grok 4.8은 실망스럽지 않을 것”이라고 썼다. 알고 보니 그 개선 작업 자체가 지연의 원인이었다. 사전 학습 코드는 이미 새로 바뀌어 있었지만, 모델이 어떻게 행동할지 가르치는 부분과 사용자에게 답변을 제공하는 부분을 다시 만들어야 다음 단계로 넘어갈 수 있었다.

헤드라인에 등장하는 ‘C++ 재작성’은 실제로는 대부분 C를 가리킨다. 언어를 묻는 질문에 머스크는 “C에 C++을 조금 섞었지만, 많지는 않습니다”라고 답했다. 그는 이 스택이 SpaceX 엔지니어들이 Starlink용으로 작성한 소프트웨어에서 비롯됐다고 설명했다. “SpaceX에서는 헤더도 직접 쓰고 시간 계산도 직접 합니다”라고 덧붙였으며, 9월에는 사전 학습 코드도 Starlink 팀이 작성했고 “AI가 쓴 코드는 아니다”라고 말했다. “AI는 아직 초고성능 소프트웨어를 만들 만큼 뛰어나지 않지만, 그렇게 될 것”이라는 이유에서다.

이런 접근의 근거는 봄부터 공개돼 왔다. 5월 말 머스크는 SpaceX가 C로 자체 훈련 스택을 거의 완성했으며, 이 스택은 Nvidia GB300 칩 22만 개로 구성된 클러스터에 “정확히 대응”한다고 밝혔다. 대규모 훈련에서 JAX보다 “10배 이상” 빨라질 수 있다고도 했다. 6월 말에는 훈련과 추론 스택 전체를 다시 쓰고 “대부분의 소프트웨어 계층을 완전히 없애면” 약 3개월 안에 “실로 엄청난 성능 향상”을 이룰 것이라고 약속했다. 이 일정에 비춰 보면 재작성은 약 6주 늦게 마무리된 셈이다. 다만 속도 향상에 관한 주장은 회사 외부에서 측정된 적이 없다.

스택을 직접 소유하면 장점과 부담이 함께 따른다. JAX와 SGLang을 버리면 xAI는 다른 회사가 만든 추상화 계층과 출시 일정에 얽매이지 않고, 엔지니어들이 특정 하드웨어에 맞춰 소프트웨어를 직접 최적화할 수 있다. 반면 훈련 과정이나 서비스 경로에서 생기는 모든 버그는 이제 xAI가 온전히 책임져야 한다. 외부 개발자 커뮤니티가 사용자에게 공개되기 전에 검증해 본 적 없는 코드이기 때문이다.

머스크는 기대치도 크게 낮추고 있다. “Grok 4.8은 4.7과 전혀 닮지 않을 겁니다. 다행히도요.” 그는 xAI가 9월 21일 출시한 모델을 공개적으로 깎아내리며 이렇게 썼다. “아직 대단한 수준은 아니지만, 이번에는 기반을 제대로 다졌으니 특별한 모델로 발전할 거라고 기대합니다.” 한 시간도 지나지 않아 Anthropic의 Opus 5.5와 비교해 달라는 질문에는 이렇게 답했다. “그만큼 좋지는 않습니다. Opus 5.5는 걸작입니다.” 그가 진짜로 내건 약속은 그보다 더 먼 미래에 있다. “Grok 5는 Opus 5.5를 넘어설 겁니다. 어쩌면 2~3개월 안에 그렇게 될 수도 있습니다.”

아직 공개되지 않은 정보가 많다. 관련 내용을 추적하는 서비스들에 따르면 xAI의 뉴스 페이지와 개발자 문서에는 이 모델에 대한 항목이 없다. 모델 카드도, 벤치마크 결과도, 가격도, API 목록도 공개되지 않았다. 2조 5천억 개 파라미터라는 수치도, 상승 중이라는 평가 결과도 머스크가 밝힌 내용일 뿐이다. 이번 주 후반 “Grok Bot 사용자”를 대상으로 제한적으로 공개한다고 했지만 구체적인 날짜는 제시하지 않았다. 머스크는 10월에 해당 요청의 대부분을 “번개처럼 빠른 Grok 4.8 버전”이 처리할 것이라고 말했다.

따라서 이번 주 공개는 모델 자체보다 기반 시스템을 시험하는 자리가 될 가능성이 크다. 실제 Grok Bot 트래픽에서도 모델이 안정적으로 작동한다면, 이번 재작성은 Grok 5를 훈련할 플랫폼이 된다. 문제가 생긴다면, 탓을 돌릴 외부 프레임워크는 더 이상 남아 있지 않다.

태그: SpaceX, AI 모델, 일론 머스크, xAI, Grok