구글 어스의 AI 딥페이크 기능, 하루 만에 철회 — 지도가 쌓아온 ‘증거로서의 신뢰’를 흔들다

구글이 구글 어스에 저지른 일을 이해하는 가장 빠른 방법은, 그것을 얼마나 빨리 되돌렸는지 주목하는 것이다. 누구나 지구상에서 가장 신뢰받는 지도 위에 조작된 현실을 그려넣을 수 있게 해주는 기능이 등장했고, 이미지를 검증하는 일을 업으로 삼은 사람들 사이에서 경보가 울려 퍼졌으며, 대부분의 사용자가 보기도 전에 사라졌다. 구글은 이번 철회를 ‘일시 중지’라고 불렀다. 하지만 이는 회사가 공개적으로, 잘못된 제품에 잘못된 기능을 탑재했다는 사실을 깨닫는 모습에 가깝다.

스펙터클보다 메커니즘이 더 중요하다. 구글 어스의 가치는 전적으로 증거력에 있다. 위성 뷰는 위조하기 어렵기 때문에 기자, 법원, 인도주의 감시자, 오픈소스 조사관들이 바로 그곳을 찾는 것이다. 그 표면에 프롬프트-투-이미지 생성기를 덧붙이는 것은 창의적인 장난감을 추가하는 것이 아니다. 제품을 신뢰할 가치가 있게 만든 유일한 속성을 훼손하는 것이다. 그 도구는 만들어진 대로 작동했다. 그것이 문제였다.

구글은 철회 전까지 워터마크를 방어 논리로 내세웠다. 회사는 생성된 모든 이미지에 AI 콘텐츠임을 표시하는 보이지 않는 마커인 SynthID가 포함되며, 사용자는 Gemini나 Lens로 이미지를 확인할 수 있다고 밝혔다. 하지만 워터마크는 이미 이미지를 의심하고 검사할 수단을 가진 사람들을 위한 포렌식 도구일 뿐이다. 실제로 중요한 순간, 즉 스크롤, 공유, 맥락에서 잘려나와 아무도 확인하지 않는 피드로 밀려드는 스크린샷에서는 아무런 역할도 하지 못한다. SynthID를 안전장치로 제공한 것은 통제라기보다 알리바이에 가까웠다. 위험이 고려되었고 통과되었다는 증거일 뿐이다.

외부 세계가 몇 시간 만에 만들어낸 결과물이야말로 구글이 곱씹어야 할 부분이다. 이런 시스템을 직업적으로 분석하는 연구자들은 몇 주가 필요하지 않았다. 그들은 이란의 핵 발전소, 국경에 모여든 난민, 병원에 생긴 폭탄 구덩이, 서구 도시에 떨어진 폭발 크레이터를 생성했다. 이는 정확히 시장을 움직이고, 갈등을 부추기며, 어떤 정정도 따라잡지 못하는 이미지들의 목록이다. 한 조사관은 자신이 요청한 어떤 것도 거부되지 않았다고 보고했다. 이것은 교묘한 오용에 대한 이야기가 아니다. 출시 전에 가장 기본적인 적대적 테스트조차 통과하지 못한 것으로 보이는 출시에 대한 이야기다. 그 테스트를 낯선 사람들이 구글의 비용으로 무료로 수행한 것이다.

Bellingcat의 연구자들은 오랫동안 위성 이미지를 허위 정보 경제에서 안전한 선택지로 여겨왔다. 정확히 그 출처가 저 멀리 하늘 위에 있어 손이 닿지 않기 때문이다. 이런 도구의 위험은 단일 가짜 이미지가 아니다. 그것은 주변적인 위험이다. 일단 그럴듯한 가짜 위성 이미지를 만드는 것이 사소해지면, 모든 실제 이미지가 논쟁의 대상이 된다. 위조가 적발되더라도 위조자가 승리한다. 의심이 제품이기 때문이다. 이미 선례가 있다. 최근 중동 분쟁 중에 손상된 미군 기지의 조작된 위성 사진이 유포되었는데, 이는 지구 이미지와 AI를 조합해 만든 것이었다. 구글은 그 작업 흐름을 버튼 하나로 만들려고 했을 뿐이다.

따라서 책임의 문제는 구글이 얼마나 빨리 움직였는지가 아니다. 왜 이 기능이 이 제품에, 가드레일 대신 워터마크를 내세워 존재했는지가 문제다. 24시간의 수명은 대응력의 승리가 아니다. 예측 가능한 피해를 출시하고 인터넷이 잡아주길 기대한 거버넌스 프로세스의 영수증이다. 구글은 더 강력한 통제 장치를 갖춰 이 기능을 다시 선보이겠다고 말한다. 더 솔직한 해석은, 구글이 구글 어스가 가장 힘들게 얻은 자산, 즉 증거로서의 신뢰성의 일부를 소비해 그 거래가 통할 수 있는지 알아보려 했다는 것이다.

이번에는 통하지 않았다. 하지만 지도가 이미 “그려질 수 있음”이 입증되었고, 그 지식은 기능과 함께 되돌려지지 않는다.

태그: Google, Google Earth, Nano Banana, 딥페이크, 위성사진