마이크로소프트, 내부 문서에서 AI 스크래핑을 “역사상 최대의 노동 절도”라 칭하다

마이크로소프트의 한 과학자는 자사가 구축 중인 기술에 대해 이름을 붙였는데, 그 이름은 결코 칭찬이 아니었다. 대규모 언어 모델이 공개 웹에서 학습하는 방식을 검토한 그는 이를 “인류 역사상 가장 큰 노동 절도”라고 불렀다. 이 문장은 내부 검토용으로 작성된 것이었으나, 현재는 법정 증거물이 되었다.

이 표현은 마치 ‘딱 걸렸다’는 식으로 소비되고 있다. AI 거대 기업의 자체 직원이 사업 모델을 절도라고 지칭했다는 것이다. 그러나 그런 해석은 지나치게 협소하다. 공개된 법정 문서들이 실제로 보여주는 것은 이 회사가 자사가 수익화하는 메커니즘을 이해하고 있었고, 그 메커니즘을 명확한 언어로 묘사했으며, 그럼에도 불구하고 제품을 출시했다는 사실이다. 흥미로운 점은 그 모욕적인 표현이 아니라, 그 이면에 있는 구조도다.

이 문서는 마이크로소프트의 응용과학 책임자 브렌트 헥트(Brent Hecht)의 것이며, 뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 제기한 저작권 소송에서 공개되었다. 헥트는 출판된 저작물을 대가 없이 모델 훈련에 사용하는 것은 “전례 없는 규모의 엄청난 절도”에 해당한다고 주장했다. 또 다른 내부 발표 자료는 그 메커니즘을 더욱 구체적으로 파고들었다. 해당 자료는 마이크로소프트의 AI 콘텐츠 전략이 “‘둠 루프’를 시작했으며, 이는 우리 모델의 성능과 전체 웹을 동시에 해칠 것”이라고 경고했다. 대규모 언어 모델은, 한 문장으로 표현하자면, “자신의 공급망을 파괴하는 제품”이다.

마지막 문장은 일곱 단어로 전체 이야기를 요약한다. 검색창 안에서 질문에 답하는 챗봇은 사용자가 해당 정보를 학습한 원본 페이지를 클릭할 이유를 없앤다. 클릭 수가 줄어든다는 것은 글을 생산하는 사이트들의 수익이 감소한다는 뜻이며, 이는 그런 사이트들이 생존하기 어려워진다는 것을 의미하고, 결국 다음 모델이 훈련할 신선한 인간의 텍스트가 줄어든다는 결과를 낳는다. 마이크로소프트는 이 순환고리를 외부에서 추측한 것이 아니다. 자체 데이터로 이를 측정했다. 코파일럿(Copilot)의 답변 엔진은 타임스(Times) 사이트의 클릭률을 일반 검색 대비 최대 93%까지 감소시켰다.

법정 문서들은 이 거래의 ‘투입’ 측면도 수치화한다. 오픈AI의 중간 훈련 데이터에는 타임스, 데일리뉴스(Daily News), 센터 포 인베스티게이티브 리포트(Center for Investigative Reporting)의 저작물이 9만 1000건 이상 포함되어 있었다. 커먼 크롤(Common Crawl)에서 가져온 한 데이터셋에는 nytimes.com의 문서만 200만 개가 넘었다. ‘프로젝트 망고(Project Mango)’라는 데이터 모음에는 뉴스 출판사들의 저작물이 최소 16만 건 포함되어 있었다. 문서들은 유료화 장벽이 우회되었고, 저작권 표시가 텍스트에서 제거된 후에야 데이터가 투입되었다고 설명한다.

오픈AI 경영진도 그 영향에 대해 순진했던 것은 아니다. 챗GPT를 총괄하는 닉 털리(Nick Turley)는 자사 제품이 저널리즘에 대해 “대체재적 성격이 강하다”고 묘사하고, 이러한 변화를 출판사들에게 “존재론적 위협”이라고 부른 것으로 인용된다. 이는 헥트가 도달한 결론과 동일하며, 직함만 다를 뿐이다.

이런 표현들이 단순한 망신 이상으로 중요한 이유가 여기에 있다. 마이크로소프트는 해당 발언과 거리를 두며 법원에 실제 입장은 저작권법을 준수하는 것이라고 밝혔고, 두 회사 모두 해당 문서 유출에 대해 논평을 거부했다. 그러나 공정 이용 항변은 회사가 무엇을 알았고 의도했는지에 부분적으로 달려 있다. 자체 과학자들이 피해를 명명한 문서들—절도, 파괴된 공급망, 텅 빈 웹—은 회사가 단순히 부인할 수 있는 의견이 아니다. 이는 그 메커니즘이 확장되기 전에 이미 이해되고 있었음을 보여주는 증거로 읽힌다.

이 모델들이 학습한 웹은 반대편에 독자가 있다고 가정했던 사람들이 구축했다. 마이크로소프트의 문서는 회사가 그 독자가 엔지니어링을 통해 사라지고 있다는 사실을 문서로 알고 있었으며, 그럼에도 계속 구축해 나갔음을 보여준다.

태그: OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits, The New York Times