Коротко: Google запустила функцию редактирования спутниковых снимков с помощью ИИ-запросов в Google Earth и отключила её через сутки. Инструмент позволял добавлять на реальные геолокации произвольные объекты без фильтрации. Водяные знаки не предотвратили распространение фейкового контента из авторитетного источника.
Что произошло с функцией ИИ в Google Earth
Google тихо выпустила обновление для Google Earth: пользователи получили возможность редактировать спутниковые снимки через текстовые подсказки на основе генеративного ИИ. Фактически — создавать изображения реальных мест с любыми добавленными объектами.
Исследователь в области цифровой разведки Хенк ван Эсс провёл тестирование сразу после запуска. Результаты:
- Добавление беженцев у мексиканской границы на реальный снимок — без ограничений
- Воронка от бомбы рядом с больницей в Газе — запрос принят
- Ни один запрос за всё тестирование не был отклонён или смягчён
На момент публикации результатов Google заявила, что изображения защищены водяным знаком, а вредоносные темы исключены. Однако уже на следующий день функция была отключена.
Почему водяной знак не защищает от дипфейков
Основной аргумент Google при запуске — цифровой водяной знак на каждом сгенерированном изображении. На практике этот механизм не сработал по трём причинам:
1. Скриншот убирает контекст. Пользователь делает скриншот — водяной знак обрезается или теряет связь с метаданными. Снимок распространяется как «обычный» кадр из Google Earth.
2. Детекторы ИИ не справились. По данным тестирования, детектор ИИ от Hive не идентифицировал сгенерированные изображения как созданные искусственным интеллектом.
3. Платформа воспринимается как документ. Google Earth — источник, которому доверяют журналисты, аналитики и организации. Снимок «из Google Earth» несёт встроенный авторитет, который переносится на сгенерированный контент.
Как быстро распространился контент
Скорость распространения оказалась критической переменной. Скриншоты сгенерированных снимков начали расходиться по сети в течение нескольких часов после публикации результатов тестирования — до того, как Google успела принять меры.
Это демонстрирует ключевую асимметрию: создание дипфейка занимает секунды, а верификация и опровержение — часы или дни. Для платформ с высоким уровнем доверия эта асимметрия особенно опасна.
Официальная позиция Google и что будет дальше
В заявлении об отключении функции Google признала двойственность ситуации: геопространственные специалисты действительно использовали инструмент для полезных задач, но сгенерированные изображения нарушали правила платформы при распространении.
Ключевая фраза заявления: «на время разработки более надёжных защитных механизмов». Это означает, что функция не закрыта навсегда — Google намерена вернуть её после доработки.
Что именно считается «более надёжными механизмами», компания не уточнила. Очевидные направления:
- Более жёсткая фильтрация на уровне промптов (хотя тестирование показало, что текущая не работает)
- Технические ограничения на скриншоты и экспорт
- Ограничение доступа для верифицированных профессиональных пользователей
Урок для бизнеса: доверие к платформе как фактор риска
История с Google Earth — не единичный случай, а иллюстрация системной проблемы. Когда генеративный ИИ встраивается в продукт с высоким уровнем доверия, риски масштабируются непропорционально.
Для компаний, которые разрабатывают или внедряют ИИ-инструменты, это означает несколько практических выводов:
- Уровень защиты должен соответствовать уровню доверия к платформе. Инструмент с репутацией достоверного источника требует более строгих мер, чем обычный генератор.
- Red-team тестирование перед запуском — не опция, а обязательный этап. Исследователь нашёл проблему за несколько часов.
- Водяной знак — маркировка, не барьер. Техническая метка не предотвращает злоупотребления; нужны системные ограничения на распространение.
Часто задаваемые вопросы
Что такое дипфейки в Google Earth?
Это ИИ-сгенерированные изображения реальных географических объектов с добавленными несуществующими элементами. В отличие от обычных дипфейков, они используют авторитет спутниковых снимков, что делает их особенно убедительными как «доказательства».
Почему Google отключила функцию, а не улучшила фильтры?
Фильтрация на входе не решает проблему распространения уже созданного контента. Google признала, что для платформы с высоким уровнем доверия нужны комплексные защитные механизмы, а не только ограничения промптов.
Могут ли детекторы ИИ распознать такие изображения?
По результатам тестирования на момент 2025 года — нет. Сгенерированные в Google Earth изображения не были идентифицированы как ИИ-контент популярным детектором. Это создаёт дополнительные риски при верификации информации.
Вернут ли функцию в Google Earth?
Google заявила, что отключение временное — «на время разработки более надёжных защитных механизмов». Конкретные сроки и условия возврата не указаны.
Разбираем ИИ-инструменты для бизнеса →
<a href='https://t.me/contentrunbot'>ИИ Инструменты</a> | <a href='https://contentrun.ai/'>Контент-завод</a> | <a href='https://platform.contentrun.ai/'>База знаний</a>