Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

O Google lançou um novo recurso no início desta semana que integrou seu modelo de geração de imagens Nano Banana 2 AI diretamente na versão web do Google Earth. Originalmente posicionada pela empresa como um utilitário criativo para visualizar empreendimentos imobiliários ou marcos históricos, a ferramenta permitia aos usuários manipular imagens aéreas e de satélite por meio de simples instruções de texto. No entanto, a implementação durou pouco. Em 31 de julho, menos de 24 horas após a intensificação do escrutínio público em relação ao potencial de abuso, a gigante da tecnologia retirou oficialmente o recurso. O Google afirmou que está retirando a ferramenta para desenvolver proteções mais fortes, observando que embora alguns profissionais geoespaciais tenham achado utilidade no recurso, a plataforma também viu evidências claras de usuários violando as políticas da empresa ao gerar imagens enganosas.

A vulnerabilidade da ferramenta foi destacada por Henk van Ess da Digital Digging, que realizou testes de estresse no sistema. Ao inserir instruções específicas, van Ess gerou com sucesso imagens altamente realistas que retratam cenários geopolíticos sensíveis, incluindo crateras de bombas perto de hospitais em Gaza e populações de refugiados situadas ao longo da fronteira mexicana. Estas experiências provaram que um agente malicioso poderia aproveitar a ferramenta para produzir provas visuais convincentes que contradizem a realidade. Apesar da afirmação inicial do Google de que seu sistema incluía restrições sobre tópicos prejudiciais, van Ess relatou que suas solicitações não foram bloqueadas, suavizadas ou negadas pela IA. Isto contornou efetivamente as salvaguardas pretendidas, demonstrando que mesmo modelos sofisticados de IA podem ser coagidos a gerar narrativas falsas e prejudiciais quando integrados em software de mapeamento.

O Google inicialmente tentou mitigar as preocupações enfatizando a presença de impedimentos técnicos. A empresa alegou que todas as imagens geradas na ferramenta foram incorporadas a uma marca d'água digital SynthID para sinalizar que o conteúdo era sintético. Eles incentivaram os usuários a verificar imagens suspeitas cruzando-as com outras ferramentas, como o aplicativo Gemini ou o Google Lens. No entanto, os críticos argumentaram que estas medidas eram insuficientes. Van Ess demonstrou que a mídia gerada poderia contornar ferramentas comuns de detecção de IA, incluindo aquelas usadas pelo Hive. Além disso, a dependência de marcas de água digitais provou ser uma defesa falha, uma vez que tais marcadores podem ser perdidos, ignorados ou potencialmente removidos, deixando o público vulnerável a acreditar em imagens de satélite falsificadas que se disfarçam como dados oficiais.

O incidente sublinha uma tensão mais ampla dentro da indústria tecnológica em relação à implantação responsável de IA generativa. Embora a Google argumente que os utilizadores já podem manipular imagens da Web utilizando várias ferramentas que não sejam de IA, a integração de capacidades geradoras diretamente numa plataforma confiável como o Google Earth reduz significativamente a barreira de entrada para a propagação de desinformação. O Google Earth é visto há muito tempo como uma fonte confiável para jornalistas, pesquisadores e o público; a inserção de uma camada de geração de IA ameaça essa confiança fundamental. A rápida retirada desta funcionalidade sugere que as empresas estão a sentir a pressão para equilibrar o desejo de inovação rápida dos produtos com a realidade de que os modelos de IA são frequentemente capazes de gerar fabricações prejudiciais e de alta fidelidade que são difíceis de distinguir da evidência visual autêntica.