02 авг. 2026 6 min read Новости

Google за сутки откатил AI-фичу в Earth — за полчаса в ней нарисовали фейковую АЭС в Иране и танки в Киеве

Google выкатил, а через сутки откатил AI-фичу в Google Earth, которая позволяла любому человеку нарисовать что угодно поверх настоящих спутниковых снимков. Запуск состоялся в четверг 30 июля 2026 года, откат — в пятницу 31 июля. Меньше 48 часов между «смотрите, какая крутая штука» и «ой, кажется, мы облажались».

Это редкий случай, когда корпорация публично признаёт ошибку через сутки, а не через год. И это очень показательный момент для всей индустрии AI-генерации. Сейчас расскажу, что случилось, что показали исследователи, и почему это важно не только для Google.

Что именно запустили

30 июля Google выложил пост в блоге про новую фичу в Google Earth на вебе. В карту встроили Nano Banana 2 — генератор картинок от Google на базе Gemini. По задумке пользователь мог открыть любую точку планеты и написать текстом, что он хочет туда дорисовать.

Безобидные примеры, которые Google рекламировал сам: реконструировать Помпеи до извержения Везувия, превратить достопримечательности в инфографику с данными. Творческий AI-помощник для путешественников и историков, звучало нормально.

Фича работала так: ты вводишь промпт, Nano Banana 2 генерирует картинку, и эта картинка накладывается поверх реального спутникового или аэро-снимка Google Earth. Можно скачать результат как файл — и он выглядит как скриншот из Google Earth. С той только разницей, что часть изображения нарисована нейросетью.

Google настаивал, что AI-контент содержит невидимые водяные знаки (специальные метки, которые встроены в файл и не видны глазу, но читаются специальными инструментами), и в основном приложении Earth сгенерированные картинки другим пользователям не показываются. Звучало как «мы подумали о безопасности, не переживайте».

Что пошло не так

Переживать надо было начать ещё до запуска.

В тот же четверг, когда фича появилась, исследователи и журналисты начали показывать, что с её помощью можно сделать. Цитирую расследование BBC Verify и заметку TechCrunch:

BBC Verify сгенерировали разрушенную Эйфелеву башню, провал у пирамиды Хеопса, российские танки в Киеве. Всё это выглядело как скриншоты из Google Earth.
Исследователь Henk van Ess показал несуществующую атомную электростанцию в Иране, лагерь беженцев на границе США и Мексики, бомбовую воронку у госпиталя в Газе. Цитата van Ess: «Изобретённые картинки были приварены к настоящим координатам, нарисованы поверх настоящих снимков. Подделке не нужно выглядеть убедительной самой по себе — она наследует доверие карты, на которой родилась» (англ. The forgery does not have to look convincing on its own. It inherits the credibility of the map it was born on).
Адам Хенк ван Эсс, эксперт по AI и дезинформации (тот же исследователь): «Эта новая фича AI-генерации картинок в Google Earth, одном из самых надёжных источников визуальных доказательств для журналистов и исследователей, точно никак не может быть использована для распространения дезинформации в интернете» (англ. There's no way that this new AI image generation feature on Google Earth, one of the most reliable sources of visual evidence for journalists and researchers, could possibly be abused to spread misinformation online) — это была саркастическая цитата журналиста BBC.

То есть любой желающий за полчаса мог создать фейк, который выглядел бы как официальный спутниковый снимок. И главное — этот фейк можно было скачать, залить в соцсети или в мессенджеры, и люди вокруг с большой вероятностью поверили бы, что это настоящий снимок из Google Earth.

Водяные знаки не сработали

Главная защита, которую Google встроил, — невидимые водяные знаки в AI-картинках. Звучит надёжно, но проверка BBC Verify показала, что защита дырявая:

Сторонние инструменты для распознавания AI-картинок в некоторых случаях не определяли сгенерированные в Earth картинки как AI.
Главный инструмент Google для проверки — Gemini (через чат-бот или поисковую функцию Lens) — можно обмануть. BBC Verify нашли способ «уговорить» Gemini считать подделанные снимки настоящими.
Сами ограничения Google на «вредные темы» обходились маленькими изменениями в формулировках промптов. Например, прямой запрос «поместить виселицу рядом с парламентом Великобритании» отклонялся, а менее конкретный промпт — принимался, и картинка генерировалась.

Исследователь по AI-детекции Генри Эйджер (Henry Ajder) сказал BBC: «В зонах конфликтов создание фейковых изображений может быть особенно дестабилизирующим, когда события развиваются быстро и информации мало. Журналисты, может, и смогут проверить картинку и написать про неё. Но далеко не все будут это делать» (англ. Journalists might be able to check that image… and report on it. But again, not everyone is going to do that).

Откат за сутки

В пятницу 31 июля Google обновил свой пост в блоге заявлением:

«Мы видели, как геопространственные специалисты используют эту фичу для множества полезных целей. Но мы также видели, как люди делятся скриншотами сгенерированных картинок, которые, похоже, нарушают наши правила. Мы откатываем эту фичу в Google Earth, пока работаем над усилением защитных механизмов» (англ. We've seen geospatial professionals using this feature for a range of useful purposes, however we've also seen people sharing screenshots of generated imagery that appear to violate our policies. We're rolling back this feature in Google Earth while we work on implementing stronger guardrails).

Ключевое слово — «откатываем» (rolling back), а не «удаляем». Google не закрыл фичу навсегда, а приостановил её. Компания пообещала вернуть её позже, когда придумает, как защитить пользователей от собственной технологии.

Что это значит для индустрии

Этот эпизод важен не только для Google. Это сигнал для всей AI-индустрии о том, что наивный подход «AI-генератор + важная инфраструктура = проблема» больше не работает. Несколько мыслей:

Доверенные источники теряют доверие

Google Earth десятилетиями был золотым стандартом «посмотри, как выглядит это место со спутника». Журналисты, исследователи, военные аналитики, страховые компании, юристы — все использовали снимки как доказательство. Теперь, если Google вернёт фичу, любой снимок из Earth придётся дополнительно проверять: «а это точно не AI?». Стоимость такой проверки — миллионы человеко-часов в год по всему миру.

Проблема не в моделях, проблема в интеграциях

Сама по себе Nano Banana 2 не опасна. Опасна её интеграция с Google Earth — продуктом, которому доверяют. Та же логика работает для любой другой связки: AI-генератор встроили в надёжный источник, и теперь этот источник заражён подозрением. В ближайшие годы мы увидим, как подобные интеграции будут либо очень аккуратно ограничиваться, либо вообще запрещаться регуляторами.

Водяные знаки не панацея

Google наивно полагался на невидимые водяные знаки. Проверка BBC показала, что и сами водяные знаки обходятся, и инструменты для их распознавания не идеальны. Это урок для всей индустрии: «мы добавили водяной знак» ≠ «мы защитили пользователей». Нужны слои защиты: и водяные знаки, и ограничения на промпты, и пост-фильтрация, и маркировка на уровне метаданных, и независимые инструменты детекции.

Регуляторы проснутся

Если раньше регуляторы смотрели на AI-генерацию картинок как на «AI-художника рисует кошек», то теперь это конкретный кейс с фейковой АЭС в Иране и фейковым госпиталем в Газе. Это ровно те сценарии, ради которых и пишутся законы. В ближайшие месяцы ждите первых серьёзных обсуждений в Конгрессе США и в Евросоюзе про «AI-генерацию поверх доверенных источников».

Что я думаю по этому поводу

Если честно, я уважаю Google за то, что они откатили фичу за сутки. Большинство корпораций тратят месяцы на «мы изучаем ситуацию» и продолжают катать фичу, пока скандал не дойдёт до Конгресса. Google признал проблему, извинился (хотя и в форме сухого пресс-релиза) и убрал фичу. Это образец ответственного поведения.

Но меня беспокоит сам факт, что фича вообще дошла до продакшена. Команда разработки, юристы, специалисты по безопасности, PR — все они должны были видеть, что AI-генерация поверх спутниковых карт превращает надёжный источник в инструмент дезинформации. Это не баг, это слепое пятно в дизайне продукта. И оно характерно для всей AI-индустрии 2026 года: мы умеем делать крутые генераторы, но не умеем встраивать их в мир безопасно.

Мой прогноз: в ближайший год мы увидим ещё минимум 3–5 подобных историй. Каждый раз алгоритм один и тот же: выходит AI-фича, в первые 24–48 часов находятся исследователи, которые показывают, что она позволяет сделать что-то вредное, компания откатывает фичу или ограничивает, пишется пост-мортем с обещанием «больше так не делать», и через полгода всё повторяется с новой фичей. Индустрия учится, но очень медленно.

Что делать, если вы разработчик

Если вы делаете продукт, который встраивает AI в доверенную инфраструктуру (карты, документы, финансы, медицина, юриспруденция):

Думайте не только о технических рисках, но и о репутационных. «Наш генератор иногда галлюцинирует» — это технический риск. «Наш генератор превращает доверенный источник в инструмент дезинформации» — это репутационный и регуляторный риск. Считайте второй первым.
Не полагайтесь только на водяные знаки. Это один слой защиты, не замена другим.
Имитируйте злоумышленника до запуска. Перед каждым релизом AI-фичи в доверенный продукт запускайте «красную команду» — специальную группу, которая целенаправленно пытается взломать или обмануть вашу систему (так называемый red team). Нанимайте внешних исследователей. Платите за найденные баги. Скупость здесь стоит миллионов потом.
Имейте «рубильник» (kill switch). Google повезло, что откат занял сутки. У вас может не быть. Архитектура должна позволять отключить AI-фичу за минуты, а не за дни.

Если вы пользователь — пока просто запомните: любой скриншот из картографического сервиса теперь по умолчанию может быть AI-фейком. Это новая нормальность. Проверяйте через первоисточники, не через репосты.