구글 어스, 생성형 AI 이미지 제작 기능 '나노 바나나' 출시 하루 만에 정책 위반 논란으로 롤백

구글이 구글 어스(Google Earth) 웹 서비스에 생성형 AI 모델 '나노 바나나 2(Nano Banana 2)'를 활용한 이미지 생성 기능을 통합해 선보였으나, 부적절한 이미지 유포 문제로 인해 출시 하루 만에 서비스를 일시 중단했습니다. 이번 기능은 위성 및 3D 지리 데이터를 기반으로 가상의 도시 계획, 역사적 장면 복원 등을 가능하게 해 큰 기대를 모았으나, 안전 장치(가드레일)의 취약성이 드러나며 신속하게 회수 조치되었습니다.

원래 구글이 공개한 기능에 따르면, 사용자들은 구글 어스 상에서 특정 장소를 선택하고 텍스트 프롬프트를 입력해 사실적인 가상 이미지를 생성할 수 있었습니다. 예를 들어 폼페이 유적지를 서기 78년의 번화한 로마 제국 거리로 복원하거나, 빈 공터를 생동감 넘치는 복합 쇼핑 지구 또는 지속 가능한 공원 등으로 시각화하는 작업을 지원했습니다. 또한 사용자가 직접 프롬프트를 통해 특정 지역을 SF 영화 속 사이버펑크 도시처럼 변모시키는 등 다양한 디자인 아이디어를 현실적인 3D 렌더링으로 실험할 수 있도록 설계되었습니다.

그러나 서비스 출시 직후, 일부 사용자가 구글의 서비스 이용 정책을 위반하는 부적절한 AI 생성 이미지를 만들고 이를 스크린샷 형태로 소셜 미디어를 통해 공유하는 남용 사례가 발생했습니다. 구글은 공식 업데이트를 통해 "구글 어스가 전 세계에 신뢰할 수 있는 지리 정보를 제공하는 플랫폼인 만큼, 오남용 사례를 엄격히 다루기 위해 해당 기능을 일시적으로 롤백한다"고 발표했습니다. 구글 측은 생성된 가상 이미지가 다른 사용자의 기본 지도 화면에 노출되지 않았고 AI 생성물임을 알리는 워터마크가 포함되어 있었으나, 안전한 서비스 환경을 구축하기 위해 더 강력한 보호 가드레일을 구현한 뒤 재출시할 계획이라고 덧붙였습니다.