AI

Mac mini는 AI 훈련용으로 만들어지지 않았다. OpenAI는 그래도 수만 대를 구매했다

Adrian Kessler

AI 학습 인프라의 전형적인 그림은 GPU 클러스터, 서버실, 그리고 카드당 수만 달러에 달하는 엔비디아 하드웨어로 구성된다. 오픈AI(OpenAI)는 방금 수만 대의 컨슈머용 맥(Mac)을 구입해 그 그림을 산산조각냈다. 이 회사는 인간 운영자처럼 컴퓨터를 조작하는 에이전트, 즉 클릭하고 스크롤하며 소프트웨어를 대신 탐색하는 AI를 학습시키기 위해 맥 미니(Mac mini)와 맥 스튜디오(Mac Studio) 시스템을 구매했다.

그 이유는 메모리에 있다. 애플 M 시리즈 칩은 CPU와 GPU를 동일한 실리콘 다이에 배치하고 하나의 고대역폭 메모리 풀을 공유하는 통합 메모리 아키텍처를 사용한다. 강화 학습——수천 번의 시행착오 반복을 통해 에이전트를 훈련시키는 방법——에서 이 설계는 지속적인 데이터 전송 병목 현상을 제거한다. 기존 GPU 설정처럼 GPU 메모리와 시스템 메모리가 분리되어 있으면, 하드웨어는 그 사이의 간격을 넘어 데이터를 끊임없이 복사해야 한다. 애플의 통합 메모리는 그 전송을 없앤다. 칩은 더 시원하게 작동하고, 유닛당 전력 소모가 적으며, 이러한 수치는 이 특정 작업에서 25,000달러짜리 엔비디아 H100(Nvidia H100)을 능가한다.

오픈AI의 가장 가까운 라이벌인 앤스로픽(Anthropic)은 동일한 하드웨어 선택을 했지만 다른 재정적 결정을 내렸다. 앤스로픽은 아마존 웹 서비스(AWS)를 통해 맥 미니를 구매하지 않고 대여한다. 작업량은 동일하지만, 약속의 규모는 다르다. 오픈AI가 수만 대를 완전히 매입하기로 한 결정은 컴퓨터 사용 에이전트 학습이 일시적인 실험이 아니라 영구적인 대규모 인프라 투자임을 시사한다.

공급 효과는 즉시 나타났다. 애플은 8월 말 맥 미니와 맥 스튜디오를 리프레시하며, 최초의 2나노미터 프로세서인 M6를 선보였다. 맥 미니 M6는 899달러부터 시작하고, 최대 96GB 이상의 통합 메모리를 제공하는 구성인 맥 스튜디오 M5 울트라는 5,499달러부터 시작한다. 최고 메모리 구성은 이미 글로벌 메모리 칩 부족으로 제약을 받고 있었다. AI 연구소들의 대량 구매로 최상위 모델은 품절됐으며, 신규 유닛이 출하되기 전에도 리드 타임이 현재 몇 달로 늘어났다.

이 중 어느 것도 엔비디아의 핵심 사업에는 영향을 미치지 않는다. 기초 모델 학습——GPT-5, 클로드 5(Claude 5), 제미니 3(Gemini 3)를 처음부터 구축하는 것——은 여전히 수천 개의 엔비디아 H100 및 B200 클러스터에서 실행된다. 맥 미니가 이를 재현할 수는 없다. 엔비디아가 예의주시하는 것은 에이전트 레이어, 즉 기초 모델 위에 구축되어 실제 세계와 상호작용하는 워크로드다. 엔비디아의 DGX 스파크(DGX Spark) 데스크톱 AI 시스템은 애플이 우연히 차지하게 된 바로 그 공간에 대한 직접적인 대응이다. AI 연구소들은 현재 이를 대규모로 선택하지 않고 있다.

가격이 그 격차를 설명한다. 96GB 통합 메모리를 탑재한 맥 스튜디오 M5 울트라는 5,499달러부터 시작한다. 엔비디아 H100 GPU 카드는 작동에 필요한 서버 섀시를 포함하기 전에 25,000달러가 넘는다. 브라우저를 클릭하고, 양식을 탐색하며, 보고서를 제출하도록 에이전트를 훈련시키는 강화 학습 유형의 경우, 맥의 비용 효율성과 메모리 아키텍처는 다른 방정식을 만들어내며——AI 연구소들은 그 차이를 확인하고 그에 따라 구매했다.

애플이 이를 공급 관계로 유지할 수 있는 능력은 칩 생산이 수요보다 빠르게 확장되는 조건에 달려 있으며, 이 조건은 현재 충족되지 않고 있다. 9월 초 열릴 회사의 다음 제품 행사는 아이폰 18(iPhone 18) 라인업과 첫 폴더블 기기에 초점을 맞출 예정이다. 추가 맥 라인 업데이트는 올해 후반에 예상된다.

태그: , , , , , ,

토론

댓글 0개가 있습니다.