Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

Google meluncurkan fitur baru awal pekan ini yang mengintegrasikan model pembuatan gambar Nano Banana 2 AI langsung ke versi web Google Earth. Awalnya diposisikan oleh perusahaan sebagai utilitas kreatif untuk memvisualisasikan perkembangan real estat atau bangunan bersejarah, alat ini memungkinkan pengguna memanipulasi citra satelit dan udara melalui perintah teks sederhana. Namun, implementasinya berumur pendek. Pada tanggal 31 Juli, kurang dari 24 jam setelah pengawasan publik semakin intensif mengenai potensi penyalahgunaan, raksasa teknologi tersebut secara resmi menarik fitur tersebut. Google menyatakan bahwa mereka mencabut alat tersebut untuk mengembangkan pagar pembatas yang lebih kuat, dan mencatat bahwa meskipun beberapa ahli geospasial menemukan kegunaan dalam fitur tersebut, platform tersebut juga melihat bukti jelas bahwa pengguna melanggar kebijakan perusahaan dengan menghasilkan gambar yang menipu.

Kerentanan alat ini disoroti oleh Henk van Ess dari Digital Digging, yang melakukan stress test pada sistem. Dengan memasukkan petunjuk spesifik, van Ess berhasil menghasilkan gambar yang sangat realistis yang menggambarkan skenario geopolitik sensitif, termasuk kawah bom di dekat rumah sakit di Gaza dan populasi pengungsi yang terletak di sepanjang perbatasan Meksiko. Eksperimen ini membuktikan bahwa pelaku kejahatan dapat memanfaatkan alat tersebut untuk menghasilkan bukti visual yang meyakinkan dan bertentangan dengan kenyataan. Terlepas dari pernyataan awal Google bahwa sistem mereka menyertakan pembatasan pada topik berbahaya, van Ess melaporkan bahwa perintahnya tidak diblokir, diperlunak, atau ditolak oleh AI. Hal ini secara efektif mengabaikan perlindungan yang diharapkan, dan menunjukkan bahwa model AI yang canggih sekalipun dapat dipaksa untuk menghasilkan narasi palsu yang merusak ketika diintegrasikan ke dalam perangkat lunak pemetaan.

Google pada awalnya berupaya mengurangi kekhawatiran dengan menekankan adanya hambatan teknis. Perusahaan mengklaim bahwa semua gambar yang dihasilkan dalam alat tersebut disematkan tanda air digital SynthID untuk menandakan bahwa konten tersebut sintetis. Mereka mendorong pengguna untuk memverifikasi citra mencurigakan dengan melakukan referensi silang dengan alat lain, seperti aplikasi Gemini atau Google Lens. Namun, para kritikus berpendapat bahwa langkah-langkah ini tidak cukup. Van Ess menunjukkan bahwa media yang dihasilkan dapat melewati alat pendeteksi AI yang umum, termasuk yang digunakan oleh Hive. Selain itu, ketergantungan pada tanda air digital telah terbukti menjadi pertahanan yang lemah, karena tanda tersebut bisa saja terlewatkan, diabaikan, atau mungkin dihilangkan, sehingga masyarakat rentan terhadap kepercayaan terhadap citra satelit palsu yang menyamar sebagai data resmi.

Insiden ini menggarisbawahi ketegangan yang lebih luas dalam industri teknologi terkait penerapan AI generatif yang bertanggung jawab. Meskipun Google berpendapat bahwa pengguna sudah dapat memanipulasi citra web menggunakan berbagai alat non-AI, integrasi kemampuan generatif langsung ke platform tepercaya seperti Google Earth secara signifikan menurunkan hambatan masuk untuk menyebarkan disinformasi. Google Earth telah lama dipandang sebagai sumber terpercaya bagi jurnalis, peneliti, dan masyarakat; memasukkan lapisan generasi AI mengancam kepercayaan mendasar tersebut. Penarikan cepat fitur ini menunjukkan bahwa perusahaan merasakan tekanan untuk menyeimbangkan keinginan akan inovasi produk yang cepat dengan kenyataan bahwa model AI sering kali mampu menghasilkan fabrikasi yang berbahaya dan memiliki ketelitian tinggi yang sulit dibedakan dari bukti visual asli.