Google удалил недавно выпущенную функцию из Google Earth, которая позволяла пользователям создавать спутниковые изображения с использованием искусственного интеллекта после того, как исследователи продемонстрировали ее потенциал для создания реалистичной дезинформации. В настоящее время компания приостанавливает работу инструмента, чтобы внедрить более надежные меры безопасности.
Взлет и быстрое падение интеграции
Ранее на этой неделе Google запустил новую функцию, которая интегрировала модель генерации изображений AI Nano Banana 2 непосредственно в веб-версию Google Earth. Первоначально позиционируемый компанией как творческая утилита для визуализации объектов недвижимости или исторических достопримечательностей, этот инструмент позволял пользователям манипулировать спутниковыми и аэрофотоснимками с помощью простых текстовых подсказок. Однако реализация была недолгой. К 31 июля, менее чем через 24 часа после того, как общественность усилила внимание к возможности злоупотреблений, технологический гигант официально отключил эту функцию. Google заявила, что отказывается от инструмента для разработки более надежных ограждений, отметив, что, хотя некоторые специалисты в области геопространственных данных нашли в этой функции полезность, платформа также увидела явные доказательства того, что пользователи нарушают политику компании, создавая обманчивые изображения.
Демонстрация рисков геопространственных дипфейков
На уязвимость инструмента указал Хенк ван Эсс из Digital Digging, который провел стресс-тестирование системы. Введя конкретные подсказки, ван Эсс успешно создал очень реалистичные изображения, изображающие чувствительные геополитические сценарии, в том числе воронки от бомб возле больниц в секторе Газа и группы беженцев, расположенные вдоль мексиканской границы. Эти эксперименты доказали, что злоумышленник может использовать этот инструмент для создания убедительных визуальных доказательств, противоречащих реальности. Несмотря на первоначальное заявление Google о том, что их система включает ограничения на вредные темы, ван Эсс сообщил, что его запросы не блокировались, не смягчались и не отклонялись ИИ. Это фактически обошло предусмотренные меры защиты, продемонстрировав, что даже сложные модели искусственного интеллекта можно заставить генерировать разрушительные ложные повествования при интеграции в картографическое программное обеспечение.
Ограничения технических гарантий
Первоначально Google попыталась смягчить опасения, подчеркнув наличие технических сдерживающих факторов. Компания заявила, что все изображения, созданные с помощью инструмента, были снабжены цифровым водяным знаком SynthID, сигнализирующим о том, что контент является синтетическим. Они призвали пользователей проверять подозрительные изображения, сравнивая их с другими инструментами, такими как приложение Gemini или Google Lens. Однако критики утверждали, что этих мер недостаточно. Ван Эсс продемонстрировал, что сгенерированные медиафайлы могут обходить обычные инструменты обнаружения искусственного интеллекта, в том числе те, которые используются Hive. Более того, использование цифровых водяных знаков оказалось ошибочной защитой, поскольку такие маркеры можно пропустить, не заметить или потенциально удалить, в результате чего общественность становится уязвимой перед доверием к фальсифицированным спутниковым изображениям, которые маскируются под авторитетные данные.
Отраслевой контекст и будущие последствия
Этот инцидент подчеркивает более широкую напряженность в технологической отрасли в отношении ответственного внедрения генеративного искусственного интеллекта. Хотя Google утверждает, что пользователи уже могут манипулировать веб-изображениями с помощью различных инструментов, не связанных с искусственным интеллектом, интеграция генеративных возможностей непосредственно в надежную платформу, такую как Google Earth, значительно снижает входной барьер для распространения дезинформации. Google Earth уже давно считается надежным источником информации для журналистов, исследователей и общественности; внедрение уровня генерации искусственного интеллекта ставит под угрозу это основополагающее доверие. Быстрый отказ от этой функции говорит о том, что компании чувствуют необходимость сбалансировать стремление к быстрым инновациям в продуктах с реальностью того, что модели ИИ часто способны создавать вредные, высокоточные подделки, которые трудно отличить от подлинных визуальных доказательств.
⚖ The Balanced View
Supporting view
Google предположил, что эта функция была разработана, чтобы позволить пользователям проявить творческий подход к географии, визуализировать исторические места и помочь в планировании проектов в сфере недвижимости.
Concerns & criticism
Критики и исследователи продемонстрировали, что этот инструмент можно легко использовать для создания реалистичной и вредной дезинформации, например, о разрушенных войной местах или ложных гуманитарных кризисах, что может подорвать репутацию платформы как источника истины.
→What's next
Google заявил, что в настоящее время работает над внедрением более строгих мер защиты этой функции, прежде чем ее можно будет потенциально вернуть на платформу. Остается неясным, будет ли компания существенно ограничивать быстрые возможности Nano Banana 2 или введет более строгие проверки генерируемых изображений.