Google убрал ии-инструмент Nano Banana из Google Earth спустя день после введения функции — пользователи успели разбомбить небоскребы в США, создать ядерные объекты в Иране и разрушить Эйфелеву башню.

Google откатил новую функцию генерации изображений Nano Banana в Google Earth менее чем через сутки после ее запуска. Компания объяснила решение тем, что пользователи начали распространять сгенерированные изображения, которые «могут нарушать правила платформы», и пообещала вернуть инструмент только после внедрения «более надежных защитных механизмов».

Поводом для критики стали эксперименты исследователей OSINT и обычных пользователей. Они выяснили, что с помощью текстовых запросов можно было создавать фотореалистичные сцены прямо на основе спутниковых снимков Google Earth. Среди примеров — самолет, врезающийся в небоскреб на Манхэттене, ядерный объект в Иране, лагеря беженцев на границе США и Мексики, а также огромная воронка от взрыва в Лос-Анджелесе.

OSINT-исследователь Хенк ван Эсс показал, что смог за несколько секунд «разместить» лагеря беженцев у мексиканской границы и «построить» ядерный объект в Иране, задав всего несколько текстовых команд. По его словам, сервис практически не ограничивал подобные запросы.

С резкой критикой выступило и сообщество GeoConfirmed. Там заявили, что Google Earth долгое время был одним из ключевых инструментов для проверки информации и геолокации, а возможность генерировать реалистичные, но вымышленные спутниковые изображения могут серьезно осложнить борьбу с дезинформацией. По мнению аналитиков, теперь проверяющим придется сначала убеждаться, что перед ними не поддельный снимок Google Earth, а уже потом разбирать само событие. Они также предупредили, что злоумышленники смогут создавать фейковые военные объекты, менять назначение зданий или фабриковать последствия атак, выдавая такие изображения за настоящие.

В Google подчеркнули, что сгенерированные изображения были помечены как созданные ИИ и не отображались в основной версии Google Earth для других пользователей. Однако после волны критики компания решила временно полностью отключить функцию.

30 июля Google представил функцию Nano Banana для веб-версии Google Earth. Она позволяла генерировать изображения на основе спутниковых снимков, аэрофотосъемки и 3D-карт местности с помощью текстовых запросов. В компании предлагали использовать ее для визуализации исторических событий, создания инфографики, архитектурных и девелоперских проектов, планирования строительства и других творческих задач. Инструмент был доступен пользователям Google Earth по всему миру.