미스트랄 무료 AI, 집에서 돌리려면 2만2299달러 맥 필요

Mistral이 Mistral Large 4의 가중치 전체를 공개했다. ‘Le Chonk’라는 별명으로도 불리는 이 모델은 누구나 내려받아 수정하고 자신의 하드웨어에서 실행할 수 있다. 프랑스 AI 연구소인 Mistral은 이 모델이 코드 작성과 소프트웨어 취약점을 재현한 뒤 패치하는 방어적 보안 작업에서 가장 강력한 오픈 모델이라고 밝혔다. 다만 집에서 직접 실행하려는 사람에게 걸림돌은 모델의 크기다.

Le Chonk의 매개변수는 약 1조 개이며, 단어를 생성할 때마다 이 가운데 490억 개가 활성화된다. Hugging Face에 따르면 가장 강하게 압축한 버전인 2비트 빌드도 llama.cpp 팀과 Unsloth가 만든 것으로, 통합 메모리 512GB를 갖춘 Apple Silicon Ultra 기기 한 대가 필요하다. Apple이 이만한 메모리를 탑재해 판매하는 Mac은 M5 Ultra 칩을 장착한 Mac Studio뿐이다. 9to5Mac에 따르면 해당 사양으로 구성할 경우 미국 가격은 2만2,299달러다. 그 밖의 방식으로 실행하려면 여러 대의 고성능 그래픽 카드를 함께 사용해야 한다.

Mistral이 이 모델의 강점으로 내세우는 분야는 코드다. 회사는 명령줄에서 작동하는 AI 에이전트를 평가하는 Terminal-Bench 4.0에서 41%를 기록해 오픈 모델 가운데 최고 성적을 냈다고 밝혔다. 또 Artificial Analysis의 코딩 에이전트 지수에서는 GLM-5.3과 동률을 기록하면서 작업당 토큰 사용량은 47% 적어 실행 비용이 더 낮다고 설명했다. Surge의 블라인드 일대일 평가에서는 평가자들이 GLM-5.3, Kimi K3, DeepSeek V4.1 Flash보다 이 모델의 코드를 더 높게 평가했으며, 이보다 앞선 모델은 Anthropic의 Claude Opus 5.5뿐이었다.

보안 분야에서 내세우는 장점은 방어적 활용에 초점을 맞춘다. Hugging Face에 따르면 이 모델은 오픈소스 소프트웨어의 실제 취약점을 재현한 뒤 수정하도록 하는 Artificial Analysis 평가에서 82%를 기록했다. Mistral은 다른 비공개 프런티어 모델들이 시도 자체를 거부해 이 평가에서 0점에 가까운 성적을 받는 경우가 여럿 있다고 밝혔다. 은행이나 정부 기관은 자체 서버에서 모델을 실행하고 자체 코드와 오류 로그를 입력할 수 있으며, 서비스 제공업체가 약관을 바꾸더라도 계속 사용할 수 있다. Wired에 따르면 Mistral의 과학 부문 부사장 피에르 스톡(Pierre Stock)은 기자들에게 “AI는 전기와 같은 존재가 될 겁니다. 이웃이 어느 날 갑자기 전기를 끊어버릴 수 있는 세상에서 살고 싶지는 않겠죠”라고 말했다.

이 수치 대부분은 Mistral이 직접 공개한 것으로, 평가 기준도 Mistral이 선택했다. 외부 검증은 이제 막 시작된 단계다. Hugging Face가 집계한 Artificial Analysis 종합 지능 지수에서 이 모델은 오픈 모델 가운데 1위가 아니라 5위다. 보안상의 장점에는 양면성도 있다. Mistral은 프리뷰 기간 실시간 트래픽을 살펴보던 중 “실제 공격을 수행하는 능력을 높일 가능성”을 발견했다며 안전장치를 강화하고 있다고 밝혔다. 그러나 공개된 가중치는 공격자를 포함해 누구나 내려받아 재조정할 수 있다. Wired에 따르면 Sophos의 위협 인텔리전스 담당 수석 디렉터 레이프 필링(Rafe Pilling)은 “명백히 양면 용도의 기술”이라고 말했다.

적합한 Mac을 갖췄더라도 집에서 사용하는 데는 타협이 따른다. Hugging Face는 구형 M3 Ultra Mac Studio에서 2비트 빌드를 실행해 초당 약 15개 토큰을 얻었다. 대화에는 무리가 없지만 긴 코딩 작업을 처리하기엔 느린 속도다. 매우 긴 문서를 넣고 Nvidia RTX 6000 Pro 카드 4장을 사용했을 때는 출력 속도가 초당 약 3개 토큰으로 떨어졌다. 모델을 2비트로 압축하면 Mistral이 벤치마크에 사용한 전체 버전과 비교해 정확도도 낮아진다.

가중치는 Mistral Ecosystem Open-Weight License에 따라 전 세계에서 Hugging Face를 통해 내려받을 수 있다. 수정된 MIT 라이선스로, 무료 사용과 미세 조정, 상업용 제품 개발을 허용한다. 단, 이 모델을 호스팅 서비스로 판매하는 기업은 Mistral과 별도의 상업용 라이선스를 체결해야 한다. 그 밖의 이용자는 Mistral API를 통해서도 사용할 수 있으며, 가격은 입력 토큰 100만 개당 0.70달러, 출력 토큰 100만 개당 2.10달러다. OpenRouter와 Microsoft Foundry에서도 이용할 수 있다. Mistral은 10월 초 프리뷰 버전을 공개한 뒤 10월 29일 최종 가중치를 발표했다. Apple은 메모리 512GB 사양으로 주문한 Mac Studio를 11월 말에서 12월 초 사이에 배송할 예정이라고 밝혔다.

Wired에 따르면 스톡은 “가중치를 오픈소스로 공개하고 나면 인터넷 곳곳에 퍼집니다. 접근을 차단하는 건 불가능하죠”라고 말했다. 2만2,299달러짜리 컴퓨터가 없는 사람에게는 메모리 가격이 접근을 막는 장벽이다.

태그: 사이버 보안, Hugging Face, Mac Studio, Le Chonk, Mistral AI, Mistral Large 4