Google ha estratto una funzionalità appena rilasciata da Google Earth che consente agli utenti di generare immagini satellitari alterate dall'intelligenza artificiale dopo che i ricercatori hanno dimostrato il suo potenziale per creare disinformazione realistica. L’azienda sta ora mettendo in pausa lo strumento per implementare misure di sicurezza più robuste.
Ascesa e rapida caduta dell’integrazione
Google ha lanciato una nuova funzionalità all'inizio di questa settimana che ha integrato il suo modello di generazione di immagini AI Nano Banana 2 direttamente nella versione web di Google Earth. Originariamente posizionato dall'azienda come strumento creativo per visualizzare sviluppi immobiliari o monumenti storici, lo strumento consentiva agli utenti di manipolare immagini satellitari e aeree tramite semplici istruzioni di testo. Tuttavia, l’attuazione fu di breve durata. Entro il 31 luglio, meno di 24 ore dopo l’intensificarsi del controllo pubblico riguardo al potenziale abuso, il colosso della tecnologia ha ufficialmente ritirato la funzionalità. Google ha dichiarato che sta ritirando lo strumento per sviluppare guardrail più forti, sottolineando che mentre alcuni professionisti geospaziali hanno trovato utile la funzionalità, la piattaforma ha anche visto prove evidenti di utenti che violano le politiche aziendali generando immagini ingannevoli.
Dimostrazione dei rischi dei deepfake geospaziali
La vulnerabilità dello strumento è stata evidenziata da Henk van Ess di Digital Digging, che ha eseguito stress test sul sistema. Inserendo suggerimenti specifici, van Ess è riuscito a generare immagini altamente realistiche che descrivono scenari geopolitici delicati, inclusi i crateri delle bombe vicino agli ospedali di Gaza e le popolazioni di rifugiati situate lungo il confine messicano. Questi esperimenti hanno dimostrato che un malintenzionato potrebbe sfruttare lo strumento per produrre prove visive convincenti che contraddicono la realtà. Nonostante l’affermazione iniziale di Google secondo cui il loro sistema includeva restrizioni su argomenti dannosi, van Ess ha riferito che i suoi suggerimenti non erano stati bloccati, attenuati o negati dall’intelligenza artificiale. Ciò ha effettivamente aggirato le garanzie previste, dimostrando che anche i modelli di intelligenza artificiale sofisticati possono essere costretti a generare narrazioni false e dannose se integrati in un software di mappatura.
Limitazioni delle garanzie tecniche
Inizialmente Google ha tentato di mitigare le preoccupazioni sottolineando la presenza di deterrenti tecnici. La società ha affermato che tutte le immagini generate all'interno dello strumento erano dotate di una filigrana digitale SynthID per segnalare che il contenuto era sintetico. Hanno incoraggiato gli utenti a verificare le immagini sospette confrontandole con altri strumenti, come l'app Gemini o Google Lens. Tuttavia, i critici hanno sostenuto che queste misure erano insufficienti. Van Ess ha dimostrato che i media generati potrebbero aggirare i comuni strumenti di rilevamento dell’intelligenza artificiale, compresi quelli utilizzati da Hive. Inoltre, la dipendenza dalle filigrane digitali si è rivelata una difesa imperfetta, poiché tali indicatori possono essere trascurati, trascurati o potenzialmente rimossi, lasciando il pubblico vulnerabile a credere in immagini satellitari falsificate che si mascherano da dati autorevoli.
Contesto del settore e implicazioni future
L’incidente sottolinea una tensione più ampia all’interno del settore tecnologico riguardo all’impiego responsabile dell’intelligenza artificiale generativa. Mentre Google sostiene che gli utenti possono già manipolare le immagini web utilizzando vari strumenti non basati sull’intelligenza artificiale, l’integrazione delle capacità generative direttamente in una piattaforma affidabile come Google Earth abbassa significativamente la barriera all’ingresso per la diffusione della disinformazione. Google Earth è stato a lungo considerato una fonte affidabile per giornalisti, ricercatori e pubblico; l’inserimento di un livello di generazione dell’intelligenza artificiale minaccia la fiducia fondamentale. Il rapido ritiro di questa funzionalità suggerisce che le aziende sentono la pressione di bilanciare il desiderio di una rapida innovazione dei prodotti con la realtà che i modelli di intelligenza artificiale sono spesso in grado di generare invenzioni dannose e ad alta fedeltà difficili da distinguere dalle prove visive autentiche.
⚖ The Balanced View
Supporting view
Google ha suggerito che la funzione è stata progettata per consentire agli utenti di essere creativi con la geografia, visualizzare siti storici e aiutare la pianificazione di progetti immobiliari.
Concerns & criticism
Critici e ricercatori hanno dimostrato che lo strumento potrebbe essere facilmente utilizzato per generare disinformazione realistica e dannosa, come siti devastati dalla guerra o false crisi umanitarie, che potrebbero minare la reputazione della piattaforma come fonte di verità.
→What's next
Google ha dichiarato che sta attualmente lavorando per implementare protezioni più forti per la funzionalità prima che possa essere potenzialmente restituita alla piattaforma. Non è chiaro se l'azienda limiterà in modo significativo le capacità tempestive di Nano Banana 2 o introdurrà controlli di verifica più rigorosi per le immagini generate.