Google wycofało z Google Earth nowo udostępnioną funkcję, która umożliwiła użytkownikom generowanie zdjęć satelitarnych zmienionych za pomocą sztucznej inteligencji po tym, jak badacze wykazali jej potencjał do tworzenia realistycznych dezinformacji. Firma wstrzymuje obecnie działanie narzędzia, aby wdrożyć bardziej rygorystyczne środki bezpieczeństwa.
Powstanie i szybki upadek integracji
Na początku tego tygodnia firma Google uruchomiła nową funkcję, która integruje model generowania obrazów AI Nano Banana 2 bezpośrednio z internetową wersją Google Earth. Narzędzie to, pierwotnie pozycjonowane przez firmę jako kreatywne narzędzie do wizualizacji inwestycji lub obiektów historycznych, umożliwiało użytkownikom manipulowanie zdjęciami satelitarnymi i lotniczymi za pomocą prostych podpowiedzi tekstowych. Jednak realizacja była krótkotrwała. Do 31 lipca, niecałe 24 godziny po wzmożeniu się publicznej kontroli pod kątem możliwości nadużyć, technologiczny gigant oficjalnie wycofał tę funkcję. Google oświadczył, że wycofuje narzędzie, aby opracować silniejsze bariery ochronne, zauważając, że chociaż niektórzy specjaliści z branży geoprzestrzennej uznali tę funkcję za przydatną, na platformie dostrzeżono również wyraźne dowody na to, że użytkownicy naruszają zasady firmy, generując zwodnicze obrazy.
Wykazanie ryzyka związanego z deepfake'ami geoprzestrzennymi
Podatność narzędzia podkreślił Henk van Ess z Digital Digging, który przeprowadził testy obciążeniowe systemu. Wprowadzając określone podpowiedzi, van Ess z powodzeniem wygenerował bardzo realistyczne obrazy przedstawiające wrażliwe scenariusze geopolityczne, w tym leje po bombach w pobliżu szpitali w Gazie i populacje uchodźców położone wzdłuż granicy z Meksykiem. Eksperymenty te wykazały, że złośliwy podmiot może wykorzystać to narzędzie do uzyskania przekonujących dowodów wizualnych, które zaprzeczają rzeczywistości. Pomimo początkowego zapewnienia Google, że ich system zawiera ograniczenia dotyczące szkodliwych tematów, van Ess poinformował, że sztuczna inteligencja nie blokowała, nie łagodziła jego podpowiedzi ani nie odrzucała ich. Skutecznie ominęło to zamierzone zabezpieczenia, pokazując, że nawet wyrafinowane modele sztucznej inteligencji można zmusić do generowania szkodliwych, fałszywych narracji po zintegrowaniu z oprogramowaniem do mapowania.
Ograniczenia zabezpieczeń technicznych
Firma Google początkowo próbowała złagodzić obawy, podkreślając obecność technicznych środków odstraszających. Firma twierdziła, że wszystkie obrazy wygenerowane za pomocą narzędzia zostały opatrzone cyfrowym znakiem wodnym SynthID, sygnalizującym, że treść jest syntetyczna. Zachęcali użytkowników do weryfikowania podejrzanych zdjęć poprzez porównywanie ich z innymi narzędziami, takimi jak aplikacja Gemini lub Google Lens. Jednak krytycy twierdzili, że środki te są niewystarczające. Van Ess wykazał, że wygenerowane media mogą ominąć popularne narzędzia do wykrywania sztucznej inteligencji, w tym te używane przez Hive. Co więcej, poleganie na cyfrowych znakach wodnych okazało się wadliwą obroną, ponieważ takie znaczniki można przeoczyć, przeoczyć lub potencjalnie usunąć, narażając społeczeństwo na uwierzenie w sfałszowane zdjęcia satelitarne udające wiarygodne dane.
Kontekst branżowy i przyszłe implikacje
Incydent podkreśla szersze napięcie w branży technologicznej dotyczące odpowiedzialnego wdrażania generatywnej sztucznej inteligencji. Chociaż Google argumentował, że użytkownicy mogą już manipulować obrazami internetowymi za pomocą różnych narzędzi innych niż sztuczna inteligencja, integracja funkcji generatywnych bezpośrednio z zaufaną platformą, taką jak Google Earth, znacznie obniża barierę wejścia dla szerzenia dezinformacji. Google Earth od dawna jest postrzegany jako wiarygodne źródło informacji dla dziennikarzy, badaczy i opinii publicznej; wstawienie warstwy generowania sztucznej inteligencji zagraża temu podstawowemu zaufaniu. Szybkie wycofanie tej funkcji sugeruje, że firmy odczuwają presję, aby zrównoważyć pragnienie szybkich innowacji produktowych z rzeczywistością, w której modele sztucznej inteligencji często są w stanie generować szkodliwe fabrykacje o wysokiej wierności, które trudno odróżnić od autentycznych dowodów wizualnych.
⚖ The Balanced View
Supporting view
Google zasugerował, że ta funkcja została zaprojektowana, aby umożliwić użytkownikom kreatywne wykorzystanie geografii, wizualizację miejsc historycznych i pomoc w planowaniu projektów dotyczących nieruchomości.
Concerns & criticism
Krytycy i badacze wykazali, że narzędzie to można łatwo wykorzystać do generowania realistycznych, szkodliwych dezinformacji, takich jak strony ogarnięte wojną lub fałszywe kryzysy humanitarne, co mogłoby podważyć reputację platformy jako źródła prawdy.
→What's next
Firma Google oświadczyła, że obecnie pracuje nad wdrożeniem silniejszych zabezpieczeń dla tej funkcji, zanim będzie mogła zostać potencjalnie przywrócona na platformę. Nie jest jasne, czy firma znacząco ograniczy możliwości Nano Banana 2, czy też wprowadzi bardziej rygorystyczne kontrole weryfikacyjne generowanych obrazów.