위성 이미지 기반 딥페이크 우려에 가드레일 강화 선언
사건 개요: 하루 만에 철회된 기능
2026년 7월 30일, 구글은 구글 어스(웹 버전)에 Nano Banana 2 이미지 생성 모델을 통합한 기능을 전 세계적으로 출시했다. 사용자가 특정 위치를 확대하고 ‘이미지 만들기’를 누른 뒤 텍스트 프롬프트를 입력하면, 실제 위성·항공·3D 이미지를 기반으로 사실적인 AI 생성 이미지를 만들 수 있는 기능이었다.
의도된 활용 사례는 교육(예: 폼페이 유적지를 기원후 78년 모습으로 재현), 부동산 기획, 역사 인포그래픽, 도시 계획 시각화 등이었다. 그러나 출시 하루 만인 7월 31일, 구글은 기능을 롤백했다. 회사 측은 “지리 공간 전문가들이 유용한 목적으로 활용하는 사례도 있었지만, 정책을 위반하는 것으로 보이는 생성 이미지 스크린샷이 공유되는 것을 확인했다”며 “더 강력한 가드레일을 구현하는 동안 기능을 철회한다”고 밝혔다.
생성 이미지는 메인 구글 어스 경험에 나타나지 않았고, SynthID 디지털 워터마크가 적용됐다고 구글은 강조했다.
확인된 사실과 기술적 배경
기능의 작동 방식
- Nano Banana 2(Gemini 3.1 Flash Image 기반) 모델이 구글 어스의 실제 지리 데이터를 ‘그라운딩(grounding)’으로 사용해 이미지를 생성.
- 프롬프트만으로 특정 좌표 위에 새로운 장면을 덧입힐 수 있었음.
- 워터마크와 유해 주제 차단 정책이 사전에 적용돼 있었다고 구글은 초기에 주장.
즉각적 악용 사례
OSINT 연구자와 기자들이 기능을 테스트하면서 다음과 같은 이미지가 생성됐다.
- 미국-멕시코 국경 인근 난민 캠프, 이란에 존재하지 않는 원자력 발전소
- 가자 지구 병원 옆 폭탄 크레이터
- 로스앤젤레스 폭탄 폭발 현장, 구글 본사 앞 시위 장면 등
BBC Verify 등은 에펠탑 붕괴, 기자 피라미드 싱크홀, 우크라이나 수도 러시아 전차 이미지 등을 생성할 수 있었다고 보고했다. 일부 테스트에서는 유해 주제 차단이 제대로 작동하지 않거나 우회가 가능했다는 지적도 나왔다.
심층 분석: 왜 이 사건이 중요한가
1. 위성·지도 이미지의 신뢰성 훼손
구글 어스는 지난 20여 년간 기자, OSINT 분석가, 인권 조사관, 교육자들에게 ‘비교적 신뢰할 수 있는 현실’로 기능해왔다. 일반 AI 생성 이미지와 달리, 실제 좌표와 위성 데이터에 ‘기반한’ 이미지는 그 자체로 권위를 물려받는다. 연구자 Henk van Ess가 지적한 것처럼, “위조는 자체적으로 설득력 있을 필요가 없다. 지도의 신뢰성을 상속받기 때문”이다.
이 사건은 단순히 ‘딥페이크가 또 나왔다’는 수준을 넘어, 공적 지리 정보 인프라의 신뢰 구조가 AI로 인해 얼마나 쉽게 흔들릴 수 있는지를 보여준다.
2. 도메인별 안전 설계의 필요성
일반적인 이미지 생성 모델의 가드레일과 지리 정보 플랫폼의 가드레일은 본질적으로 달라야 한다. 지도·위성 데이터는 뉴스, 분쟁 검증, 재난 대응 등에서 ‘증거’로 쓰이기 때문이다. 구글이 초기에 내세운 SynthID 워터마크와 유해 주제 차단은 스크린샷 공유와 영상 변환, 탐지 도구 우회 앞에서 한계를 드러냈다.
이는 ‘모든 생성형 AI에 동일한 안전 장치를 적용하면 된다’는 접근이 특정 도메인에서는 불충분하다는 점을 시사한다.
3. 빠른 출시와 빠른 철회의 패턴
최근 빅테크의 AI 기능 출시는 종종 ‘먼저 출시하고 나중에 조정’하는 방식을 취한다. Meta의 Muse Image 사례 등에서도 유사한 패턴이 관찰됐다. 구글 어스 사례는 그 속도가 특히 빨랐다. 출시 후 24시간 이내에 정책 위반 이미지 공유가 확인되자 즉시 롤백한 것은, 반대로 말하면 사전에 충분히 스트레스 테스트되지 않았음을 의미한다.
4. 잠재적 긍정적 활용과 균형
지리 공간 전문가들은 실제로 부동산 시각화, 역사 교육, 도시 계획 시나리오 등에서 유용성을 확인했다. 문제는 ‘유용성’과 ‘오용 가능성’이 동일한 인터페이스에서 공존했다는 점이다. 향후 기능이 재도입된다면, 전문가용 모드와 일반 사용자 모드를 분리하거나, 생성 이미지의 공유·내보내기 경로를 강하게 제한하는 방식이 검토될 가능성이 높다.
남은 쟁점과 향후 전망
구글은 기능을 영구 폐기한다고 밝히지 않았다. “더 강력한 가드레일을 구현하는 동안”이라는 표현은 재출시 가능성을 열어두고 있다. 핵심 질문은 다음과 같다.
- 워터마크와 탐지 도구만으로 스크린샷 기반 확산을 막을 수 있는가?
- 지리 데이터에 기반한 생성 이미지를 ‘증거’로 오인하는 문제를 기술적으로 어떻게 해결할 것인가?
- 교육·전문 목적의 유용성과 대중적 오용 위험을 어떻게 분리할 것인가?
이 사건은 생성형 AI가 단순 창작 도구를 넘어, 기존에 신뢰받던 정보 인프라에 직접 결합될 때 발생하는 구조적 긴장을 드러낸다. 지도와 위성 이미지는 특히 그 긴장이 날카롭게 드러나는 영역이다. 구글의 빠른 철회는 단기적으로는 피해를 최소화했지만, 장기적으로는 도메인별 AI 안전 설계의 기준을 높여야 한다는 신호를 남겼다.