AI

Kimi K3, 에이전트 AI에서 GPT-5.6 Sol 능가 — 7월 27일 오픈소스 공개

Adrian Kessler

장기 코딩 및 지식 작업에 가장 중요한 벤치마크에서 OpenAI의 플래그십 모델을 능가한 모델이 오늘 API를 통해 공개됐다. 이 모델은 OpenAI, Google, Anthropic의 제품이 아니다. Kimi K3는 베이징 기반 스타트업 Moonshot AI가 내놓은 최신 모델로, Kimi 챗봇으로 가장 잘 알려져 있으며, 지금까지 공개된 오픈웨이트 언어 모델 중 가장 크다. 총 2조 8천억 개의 파라미터를 가진 희소 아키텍처로, 요청당 극히 일부만 활성화해 비용을 낮춘다.

교과서적인 문제가 아닌 실제 지식 작업을 시뮬레이션하도록 설계된 Artificial Analysis의 에이전트 평가인 AA-Briefcase에서 Kimi K3는 1,527점을 기록해, 1,587점의 Claude Fable 5 Max에 이어 2위를 차지했고, 1,495점의 GPT-5.6 Sol Max를 앞질렀다. 더 포괄적인 GDPval-AA 벤치마크에서는 1,687점으로 3위에 올랐으며, Fable 5 Max(1,815점)와 GPT-5.6 Sol Max(1,747.8점)가 그 위에 있다. 에이전트 벤치마크에서 1위와 2위 간의 성능 격차는 2위와 5위 간의 격차보다 좁다.

벤치마크 순위보다 가격 차이가 더 주목할 만하다. Kimi K3는 캐시되지 않은 입력 토큰 100만 개당 3달러, 출력 토큰 100만 개당 15달러를 청구한다. Claude Opus 4.8은 입력 100만 개당 5달러, 출력 100만 개당 25달러다. 대규모 에이전트 워크플로를 운영하는 팀의 경우, Moonshot은 코딩 작업에서 캐시 적중률이 90% 이상이라고 보고하며, 이에 따라 실질적인 입력 비용은 토큰 100만 개당 0.30달러로 떨어진다. 이는 프런티어급 AI를 대규모로 배포할 때의 경제성을 완전히 바꾸는 수치다.

두 가지 아키텍처 혁신이 이 모델을 뒷받침한다. Kimi Delta Attention은 하이브리드 선형 어텐션 메커니즘으로, 회사 측은 표준 어텐션 대비 백만 토큰 컨텍스트에서 디코딩 속도를 6.3배 향상시킨다고 밝혔다. Attention Residuals는 표준 잔차 연결을 대체하는 드롭인 방식으로, 모델 규모가 커짐에 따라 일관된 성능 향상을 제공한다. 백만 토큰 컨텍스트 윈도우는 약 10권 분량의 장편 소설을 한 번에 담을 수 있는 수준으로, 이론적인 사양이 아닌 실제 작동 가능한 기능이다.

여기서 ‘오늘 공개’와 ‘오픈소스’ 사이에는 중요한 차이가 있다. Kimi K3는 현재 API와 Kimi 앱을 통해 접근할 수 있으며, 이는 요청이 Moonshot의 서버를 통해 처리된다는 뜻이다. 모델의 실제 웨이트, 즉 누구나 자체 인프라에 배포할 수 있게 해주는 훈련된 파라미터는 아직 공개되지 않았다. Moonshot은 7월 27일 수정된 MIT 라이선스에 따라 이를 공개할 계획이며, 이는 이전 K2 모델에 적용된 것과 동일한 조건이다. 대부분의 개발자에게는 API로 충분하지만, 데이터 주권이나 규정 준수 요구사항이 있는 조직에게는 웨이트 공개일이 중요한 시점이다.

네이티브 멀티모달 지원은 동일한 API 호출 내에서 텍스트, 이미지, 비디오 입력을 모두 처리한다. 모델의 총 2조 8천억 개 파라미터 수는 전체 희소 MoE 파라미터를 의미하며, 순방향 패스당 활성 파라미터 수는 상당히 적어 Moonshot이 추론 비용을 낮출 수 있는 방식이다. 전체 모델을 로컬에서 실행하려면 소비자용 워크스테이션을 훨씬 뛰어넘는 하드웨어가 필요하다. 오픈 웨이트가 가능하게 하는 것은 중국 소유의 API를 통해 데이터를 라우팅하지 않고 엔터프라이즈급 인프라에 배포하는 것이다.

7월 27일의 웨이트 공개는 벤치마크상의 이점이 실제 배포 환경에서 얼마나 유지될지를 결정할 것이다. Moonshot이 K2를 유사한 오픈 조건으로 공개했을 때, 개발자 채택은 회사 예상보다 빠르게 진행됐다. 부분적으로는 프런티어에 근접한 성능과 MIT 스타일 라이선스의 조합이 두 가지 모두를 필요로 하는 팀의 법적 마찰을 제거했기 때문이다. K3는 동일한 전략에 대한 더 큰 베팅이다.

태그: , , , , ,

토론

댓글 0개가 있습니다.