Компания Google интегрировала в приложение Google Earth инструмент на основе нейросети Nano Banana 2, который позволял пользователям создавать искусственные спутниковые снимки. Функция была активирована 29 июля и давала возможность нажать кнопку «create image» в любой точке на карте, после чего система генерировала синтетическое изображение, накладываемое поверх реальных космических фотографий и трёхмерных моделей сервиса.
Однако уже через сутки, 31 июля, Google принял решение срочно деактивировать эту опцию. Причиной стало массовое использование функции в целях дезинформации. За короткий период работы пользователи успели создать поддельные снимки ядерного объекта на территории Ирана, сгенерировать изображение самолёта, якобы врезающегося в башню Всемирного торгового центра в Нью-Йорке, а также создать ложные кадры с российской военной техникой, якобы находящейся на украинских землях.
Инцидент продемонстрировал серьёзные риски, связанные с распространением технологий синтеза изображений. Генеративные инструменты, встроенные в популярные сервисы геолокации, способны быстро стать орудием создания убедительной визуальной дезинформации, которая может распространяться среди миллионов пользователей.
Google не разглашал детали относительно принятых мер по улучшению контроля перед повторным запуском функции или её доработками. Случай подтвердил необходимость тщательного тестирования и внедрения надёжных механизмов защиты при интеграции AI-инструментов в массовые приложения.