미국 대형 출판사들, 책 소개문 몰래 챗GPT로 작성

미국의 5대 출판사 가운데 세 곳이 ChatGPT와 Claude를 이용해 책 표지와 아마존 상품 페이지, Goodreads에 독자가 보게 될 문구를 작성하고 있다고 WIRED가 조사 보도했다. 하퍼콜린스(HarperCollins), 사이먼앤드슈스터(Simon & Schuster), 아셰트(Hachette)에서 일하는 직원 24명 이상은 챗봇이 홍보 문구와 문학 에이전트에게 보내는 이메일, 마케팅 영상은 물론 표지 그림까지 만들고 있다고 전했다. 이 과정에서 대중에게 이를 알리거나 해당 작가의 동의를 구한 경우는 없었다.

더 큰 문제는 말과 행동의 괴리다. 출판계는 공개적으로 생성형 AI의 가장 강력한 반대자 가운데 하나를 자처하며 저작권 침해를 이유로 소송을 제기하고, 언어 모델에 글쓰기를 맡긴 것으로 의심받은 작가의 책은 출간을 취소해 왔다. 하지만 같은 업계 안에서 AI 도구는 이미 흔한 사무용 소프트웨어가 됐다. 책 뒷표지의 소개 문구를 보고 소설을 집어 든 독자는 그 문구를 누가, 혹은 무엇이 썼는지 알 방법이 없다.

하퍼콜린스의 고위 임원들은 앤스로픽(Anthropic)의 Claude 사용권을 구매했지만, 현직 직원에 따르면 정작 이를 어디에 써야 할지 몰라 고심했다. 직원 수십 명은 ‘AI 챔피언’으로 지정돼 매달 열리는 아이디어 회의에서 활용 방안을 찾으라는 요청을 받았다. 회사는 ChatGPT와 함께 마케팅 업무를 처음부터 끝까지 처리한다고 내세우는 플랫폼 Jasper에도 비용을 지불하고 있다. 한 사업부는 AI로 마케팅 영상을 만드는 일까지 포함해 AI 도입에 ‘전면적으로 나섰다’.

사이먼앤드슈스터에서는 OpenAI 관계자들이 직원 대상 워크숍을 열고 문학 에이전트에게 이메일을 쓸 때 ChatGPT를 활용하라고 제안했다. 한편 에이전트들은 같은 편집자에게서 받은 거절 편지를 서로 비교하기 시작했고, 기계가 쓴 글에서 자주 드러나는 상투적 표현과 대조 구문, 세 항목을 나열하는 문장 구조가 반복되는 것을 알아챘다. 세 출판사 직원들은 에이전트들의 추측이 맞았다고 본다고 WIRED에 말했다.

에이전트들이 가장 우려하는 것은 챗봇에 입력되는 내용이다. 일부 에이전트는 작가의 원고를 대규모 언어 모델에 입력하지 못하도록 계약서에 조항을 추가했다. 소비자용 챗봇에 붙여 넣은 원고는 출판사 시스템을 벗어나 AI 기업의 서버로 넘어가기 때문이다. 하퍼콜린스 관계자는 전체 원고를 이런 도구에 붙여 넣어도 되는지 물은 편집자들이 법무팀으로부터 안 된다는 답을 들었다고 전했다. 이 규칙은 법무 부서에서 정했지만, 책을 쓴 작가들에게는 한 번도 공개된 적이 없다.

다음 쟁점은 번역이다. 이는 미국을 훨씬 넘어서는 문제이기도 하다. 하퍼콜린스 최고경영자 브라이언 머리(Brian Murray)는 AI가 번역서와 오디오북을 더 많이 출간하는 데 도움을 줄 수 있다고 말한 바 있다. 편집자들은 기계 번역이라고 표시된 원고가 프랑크푸르트와 런던 도서전에서 판매 대상으로 나온 사례를 봤다고 WIRED에 전했다. 이 도서전에서 출판사들은 해외 도서의 판권을 사들인다. 국경을 넘어 출간되는 모든 책은 이 시장을 거친다.

각 회사가 설명하는 내용은 이보다 제한적이다. 아셰트는 AI를 ‘운영상의 목적’으로는 지원하지만, 작가나 파트너와의 소통을 비롯한 창작 목적의 사용은 지원하지 않는다고 밝혔다. 사이먼앤드슈스터는 직원들이 검증된 일부 기업용 도구를 사용할 수 있지만, 사용이 의무는 아니라고 설명했다. 이번 보도는 대체로 익명 제보에 바탕을 두고 있으며, 거절 편지에 대한 의혹도 입증된 사실이 아니라 문체상의 특징에 근거한다. AI 탐지 소프트웨어 역시 신뢰성이 크게 떨어진다. 다만 보도의 핵심에 있는 간극만큼은 누구도 부인하지 않는다. 세 출판사 가운데 어느 곳도 어떤 책 표지나 소개 문구, 홍보 문안에 AI가 관여했는지 독자나 작가에게 알리지 않았다.

직원 여러 명은 이런 변화를 열정보다는 피로감으로 설명한다. 한 직원은 해고로 일부 팀의 인원이 5~6명까지 줄어든 반면 담당 도서 수는 두세 배로 늘었다고 WIRED에 말했다. 경영진이 계속 내놓는 지름길은 챗봇이다.

이달 들어 갈등은 공개적으로 불거졌다. 사이먼앤드슈스터 직원들은 3월에 회사를 이끈 전 아마존 임원 그레그 그릴리(Greg Greeley) 최고경영자에게 공개서한을 돌렸다. 직원들은 출판사를 2023년에 인수한 투자회사 KKR과 연관된 업무 모니터링·자동화 도구 Skan AI의 시범 도입에 반대했다. 그릴리는 10월 6일 직원들에게 회사가 해당 제품을 검토한 것은 맞지만, Skan AI나 비슷한 모니터링 도구를 사용하기로 결정한 바는 없다고 밝혔다.

에이전트와 편집자들이 바라는 것은 소박하다. 무엇을 언제 사용하는지 명확한 규칙을 마련해 달라는 것이다. 하퍼콜린스의 한 직원은 작가들에게 무엇을 말해야 할지에 대한 지침이 전혀 없다고 전했다. 경영진도 솔직하게 답하면 큰 반발이 일어날 것을 알고 있을 거라고 이 직원은 생각한다.

태그: chatgpt, Claude, 생성형 AI, Hachette, HarperCollins, Simon & Schuster