기술

애플, TinyGPU 공식 승인…맥 미니가 AI 서버로

Susan Hill

애플이 조지 호츠(George Hotz)가 설립한 타이니 코프(Tiny Corp)의 드라이버 TinyGPU를 공식 서명·인증했다. 애플 실리콘 전환 이후 처음으로, 맥 사용자가 외부 엔비디아(Nvidia) 또는 AMD 그래픽카드를 연결해 AI 연산에 활용할 수 있게 됐다. 시스템 보안 메커니즘을 해제하는 과정 없이.

2020년 애플 실리콘 전환 이후, 애플 실리콘 맥에서 외부 GPU를 사용하는 것은 사실상 불가능했다. 기존 시도들은 macOS 핵심 보안 레이어인 시스템 무결성 보호(SIP)를 비활성화해야 했고, 애플은 이를 공식 지원한 적이 없다. TinyGPU는 애플의 DriverKit 메커니즘을 통해 macOS 표준 보안 프레임워크 안에서 작동하며, 시스템 설정에서 간단히 활성화된다.

실제 성능은

타이니 코프의 자체 테스트에서 확인됐다. 썬더볼트(Thunderbolt)로 AMD 라데온 RX 7900 XTX에 연결된 맥 미니는 쿈(Qwen) 2.5 27B 모델을 초당 18.5토큰으로 실행했다. 외부 RTX 4090을 사용하면 Q4 양자화 기준 라마(Llama) 계열 모델에서 초당 45~50토큰이 측정됐다. 이 수준의 성능은 그동안 훨씬 비싼 전용 하드웨어를 요구했다.

Ollama, llama.cpp 등을 통해 이미 맥 미니를 로컬 AI 추론 서버로 활용 중인 사용자라면 효과가 즉각적이다. 유니파이드 메모리 용량을 초과하던 모델들이 이제 외부 GPU의 VRAM에 완전히 상주할 수 있어, 분할 없이 훨씬 빠른 처리 속도를 기대할 수 있다.

한계도 분명하다

TinyGPU는 AI 연산 전용이다. 모니터 출력 가속, 게임 성능 향상, 영상 편집용 GPU 가속은 지원하지 않는다. AMD RDNA3 세대 이상은 비교적 간단한 설치 과정으로 사용 가능하다. 엔비디아 암페어(Ampere) 세대 이상은 Docker Desktop 설치가 필요해 개발 환경에 익숙하지 않은 사용자에게는 진입 장벽이 된다. 썬더볼트 4의 대역폭도 물리적 한계로 작용한다. 동일한 그래픽카드라도 네이티브 PCIe 슬롯에서의 성능이 외부 케이블 연결보다 현저히 높다.

맥 프로 단종, 맥 미니 확장

파악된 바에 따르면, 애플은 같은 달 맥 프로(Mac Pro)를 공식 발표 없이 홈페이지에서 조용히 삭제했다. 후속 제품도 없었다. 맥 프로는 애플 유일의 모듈식 데스크톱으로, 전문 사용자가 자체 하드웨어 부품으로 연산 능력을 확장할 수 있는 유일한 제품이었다. TinyGPU 승인과 맥 프로 단종이 같은 시기에 이루어진 것은 우연이 아닌 것으로 보인다. 고성능 AI 연산이 필요한 사용자에게 애플이 제시하는 답은 자사 타워 PC가 아닌, 맥 미니에 외부 하드웨어를 연결하는 방식으로 바뀐 것이다.

톰스 하드웨어(Tom’s Hardware)와 테크레이더(TechRadar)에 따르면, 이번이 애플이 DriverKit를 통해 공식 승인한 애플 실리콘용 서드파티 외부 GPU 연산 드라이버 첫 사례다.

최소 요구 사양은 macOS 12.1 이상, 썬더볼트 3·4 또는 USB4 포트, 충분한 전원 공급이 가능한 eGPU 인클로저에 장착된 호환 그래픽카드다. TinyGPU는 타이니 코프의 공식 문서와 GitHub 저장소에서 제공된다.

토론

댓글 0개가 있습니다.