중국 AI 7개사, 클로드 대화 1억5100만 건 무단 수집 — 앤트로픽 전원 공개

중국 AI 기업 7곳이 수개월 동안 자사 AI 모델에 도용한 클로드 응답 데이터를 몰래 주입해 왔으며, 앤트로픽이 이들 업체를 전부 공개했다. 알리바바, 딥시크, 문샷 AI, 샤오미, 지푸, 미니맥스, 센스타임 등 해당 연구소들은 가짜 계정 네트워크를 이용해 자사 사용자의 대화를 클로드로 전송하고, 답변을 수집한 뒤 이를 활용해 더 저렴한 경쟁 모델을 훈련시켰다. 이 방식은 증류(distillation)라고 불리며, 앤트로픽이 문서화한 규모는 공개적으로 밝혀진 AI 무단 훈련 사례 중 가장 크다.

알리바바가 가장 큰 캠페인을 벌였다. 2026년 5월부터 7월까지, 이 작업은 3500개 이상의 가짜 계정을 통해 총 1억 5100만 건의 클로드 교환을 기록했으며, 하루 최대 약 300만 건의 대화를 빼돌렸다. 수천만 명이 사용하는 키미(Kimi) 어시스턴트를 운영하는 문샷 AI는 2300만 건의 교환을 실행했으며, 5380개의 가짜 계정으로 구성된 프록시 네트워크를 통해 자사 고객 약 30만 명의 활성 세션을 클로드로 우회시켰다. 딥시크는 14일 만에 1210만 건의 교환을 기록했다. 지푸, 샤오미, 미니맥스, 센스타임은 수십만 건을 추가했으며, 특히 센스타임은 제3자 데이터 공급업체로부터 직접 클로드 대화 기록을 구매하는 이례적인 조치를 취했다.

그 규모는 놀랍지만, 내용이 더 중요하다. 앤트로픽은 도용된 교환 데이터에 개인 사용자, 대형 다국적 기업, 국가 관련 기관의 민감한 정보가 포함되어 있다고 밝혔다. 증류는 AI 출력물을 익명의 훈련 자료로 취급하도록 설계되어 있지만, 이 세션들은 익명 처리되지 않았다. 키미, 샤오미 AI 및 기타 중국 앱에서 발생한 실시간 대화가 클로드를 통해 전달된 후, 연구소 자체 훈련 파이프라인에 다시 투입된 것이다.

이 기법은 더 강력한 모델의 출력물이 작은 모델이 동일한 추론 방식을 근사하도록 가르칠 수 있다는 점을 활용한다. 이는 학생이 교수의 풀이 답안을 공부할 때 적용하는 것과 같은 논리다. 연구소들은 AI 개발에서 가장 어려운 부분을 클로드와 그 사용자에게 아웃소싱하면서, 비용을 지불하지 않았고 이를 공개하지도 않았다. 앤트로픽은 2026년 2월부터 이 캠페인을 감지했으며, 가장 큰 규모의 작업은 7월까지 이어졌다고 밝혔다.

일곱 개 업체 중 어느 곳도 앤트로픽의 주장에 공개적으로 대응하지 않았다. 이러한 침묵은 주목할 만하다. 증류는 AI 연구에서 표준적인 기법이지만, 가짜 계정을 이용해 산업적 규모로, 경쟁사의 서비스 이용약관을 위반하면서, 사용자의 실시간 개인 데이터가 첨부된 상태로 이루어진 것은 업계가 이전에 문서화한 어떤 사례를 넘어선다.

앤트로픽은 노출을 차단하기 위한 조치에 나섰다. 이 회사는 중국, 러시아, 이란 등 자사 서비스가 공식적으로 지원되지 않는 지역의 리셀러 계정을 금지하고 있다. 또한 클로드가 최종 답변을 제공하기 전에 내부 추론 과정을 요약하도록 업데이트했다. 이는 경쟁사가 원시 추론 패턴을 복제하기 어렵게 만들기 위한 조치다. ‘보존된 사고(preserved thinking)’라는 새로운 시스템은 이러한 추론 패턴을 암호화하여 프롬프트 조작을 통해 추출할 수 없도록 한다.

이러한 대응 조치는 기술적 공격 벡터를 해결하지만, 더 어려운 질문은 남겨둔다. 해당 기간 동안 키미, 샤오미의 AI 어시스턴트 또는 기타 영향을 받은 앱을 사용한 사람은 자신도 모르게 대화가 캡처되어 클로드를 통해 처리되었을 수 있다. 앤트로픽은 영향을 받은 사용자에게 통보할지 여부를 밝히지 않았으며, 중국 연구소들은 자사 고객에게 이 관행을 공개하겠다는 약속을 하지 않았다.

태그: Anthropic, Claude, DeepSeek, AI 보안, 데이터 프라이버시, 알리바바