Google이 Google Earth에 추가한 AI 이미지 기능을 공개 하루 만에 되돌렸습니다. 이 기능은 Nano Banana 2로 생성한 이미지를 실제 Google Earth 위성 지도 위에 겹쳐 보여주는 방식이었습니다. 회사는 지리 정보를 창의적으로 탐색하는 도구로 소개했지만, 사용자는 프롬프트만으로 거의 어떤 장면이든 실제 장소와 함께 표시할 수 있었습니다.
비판이 집중된 곳은 이미지 생성 모델의 품질이 아니었습니다. Google Earth가 이미 갖고 있던 신뢰성이었습니다. 기자와 연구자들이 시각적 근거로 참고해 온 지도 위에 가짜 이미지를 올리면, 결과물은 단순한 AI 생성물이 아니라 실제 위성 자료의 일부처럼 보일 수 있습니다. 화면을 캡처해 공유하는 순간 프롬프트, 생성 여부, 원래 기능의 맥락이 사라질 가능성도 큽니다.
TechCrunch에 따르면 출시 직후 이 기능이 오정보 확산에 쓰일 수 있다는 지적이 나왔고, BBC 기자도 이를 비꼬는 글을 올렸습니다. Google은 지리공간 전문가들이 유용하게 활용한 사례를 확인했다고 밝혔지만, 정책을 위반한 것처럼 보이는 생성 이미지가 공유되는 사례도 봤다며 기능을 롤백했습니다. 더 강한 가드레일을 구현하는 동안 잠정적으로 중단한다는 설명입니다.
이번 사례는 생성형 AI 제품의 위험을 모델 단위로만 판단하기 어렵다는 점을 보여줍니다. 같은 이미지를 빈 캔버스에 띄우는 것과, 신뢰받는 지도 위에 배치하는 것은 사용자에게 전혀 다른 인상을 줍니다. 기능을 다시 내놓으려면 이미지 생성 사실을 눈에 띄게 표시하고, 공유·캡처 뒤에도 그 표시와 출처 맥락이 남도록 해야 합니다. 특정 재난이나 사건을 실제 기록처럼 보이게 만드는 요청을 걸러내는 장치도 필요합니다. AI로 이미지를 만드는 일은 이제 어렵지 않습니다. 제품이 고민해야 할 것은 그 이미지에 어디까지 현실의 권위를 덧입힐 것인가입니다.