구글 어스 AI 위성사진 편집 기능, 24시간 만에 철수 — 이란 핵시설 위조 이미지까지 등장

구글 어스는 지난 20년 동안 물리적 세계가 실제로 어떻게 생겼는지 확인하려는 사람이라면 누구나 참고하는 기본 시각 자료가 되었다. 기자들은 분쟁 지역을 기록하는 데 사용하고, 인권 연구자들은 구금 시설을 추적하는 데 사용하며, 유엔 조사관들은 사무실의 안전한 환경에서 이를 참고한다. 구글은 여기에 잠시 새로운 기능을 추가했다. 위성 지도에 직접 연결된 AI 이미지 생성기였다.

이 도구는 구글 자체 이미지 생성 모델인 나노 바나나 2를 기반으로 했으며, 광고된 대로 작동했다. 사용자는 텍스트 프롬프트를 입력했다. ‘베수비오 화산 폭발 전의 폼페이를 보여줘’ 또는 ‘이 해안선을 인포그래픽으로 바꿔줘’ 같은 식이었다. 그러면 AI가 해당 실제 좌표에 생성된 이미지를 덧씌웠다. 합법적인 사용 사례는 쉽게 상상할 수 있었다. 위험한 사용 사례 역시 실행하기에 그만큼 쉬운 것으로 드러났다.

탐사 저널리스트 헹크 반 에스는 이 문제를 최초로 기록한 사람 중 한 명이다. 출시 후 몇 시간 만에 그는 이란의 한 위치에 가상의 핵 발전소를 생성했다. 그 결과는 위험성을 설명하기에 충분히 설득력이 있었다. 더 우려스러운 점은 그가 내장된 안전장치를 테스트했을 때 일어난 일이었다. 구글은 생성된 모든 이미지에 자사의 AI 인증 레이어인 SynthID 워터마크를 삽입해 두었다. 반 에스는 스크린샷을 찍는 대신 화면을 사진으로 찍어 이를 무력화했다. 타사 AI 탐지 도구는 결과 이미지가 AI로 생성되었을 가능성을 1%로 평가했다.

구글의 방어 논리는 기술적으로는 정확했지만 실질적으로는 부적절했다. 구글은 생성된 이미지가 ‘다른 사람이 볼 수 있는 기본 구글 어스 환경에는 나타나지 않았다’고 밝혔다. 즉, 세션별로 한정되어 생성자만 볼 수 있었다는 것이다. 그러나 화면을 사진으로 찍고 결과물을 공유하면 그 구분은 무너진다. 민감한 시설의 조작된 위성 이미지가 캡션만 달고 유포되면, 속이기 위해 만들어진 이미지와 구별할 수 없다.

여기에는 더 강력한 안전장치로도 완전히 해결되지 않을 수 있는 구조적 긴장이 존재한다. AI 이미지 생성을 유용하게 만드는 바로 그 능력은, 기반이 되는 출처가 신뢰받는 위성 데이터일 때 위험해진다. 그 신뢰는 구글 어스가 보여주는 것이 물리적 현실을 반영한다는 가정에 의존한다. 생성된 콘텐츠가 실제 좌표 위에 덧씌워질 수 있고, 인증 레이어가 카메라로 무력화될 수 있는 순간, 그 가정에는 금이 가며, 그 금은 기능이 오프라인 상태가 되어도 닫히지 않는다.

이 기능은 7월 31일, 출시된 지 24시간도 채 안 되어 철회되었다. 구글은 ‘정책을 위반하는 것으로 보이는 생성 이미지 스크린샷’을 확인했다고 인정했으며, 재출시 전에 ‘더 강력한 안전장치’를 구현하겠다고 약속했다. 구체적인 일정은 제시되지 않았다. 시기는 한 가지 층위를 더한다. 8월 2일 현재, EU AI 법의 전면 시행 조항이 유럽 전역에서 발효되어, 사용자를 속일 수 있는 AI 생성 콘텐츠—특히 신뢰받는 정보 출처에 삽입된 합성 이미지—의 라벨링을 의무화하고 있다.

태그: Google, AI, Google Earth, 딥페이크, 위성 이미지, 허위정보