Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

أطلقت Google ميزة جديدة في وقت سابق من هذا الأسبوع قامت بدمج نموذج إنشاء الصور Nano Banana 2 AI مباشرة في إصدار الويب من Google Earth. تم وضعها في الأصل من قبل الشركة كأداة مساعدة إبداعية لتصور التطورات العقارية أو المعالم التاريخية، وقد أتاحت الأداة للمستخدمين التعامل مع صور الأقمار الصناعية والصور الجوية عبر مطالبات نصية بسيطة. ومع ذلك، كان التنفيذ قصير الأجل. بحلول 31 يوليو، أي بعد أقل من 24 ساعة من تكثيف التدقيق العام فيما يتعلق باحتمالية إساءة الاستخدام، قامت شركة التكنولوجيا العملاقة بسحب الميزة رسميًا. ذكرت جوجل أنها تسحب الأداة لتطوير حواجز حماية أقوى، مشيرة إلى أنه في حين وجد بعض المتخصصين في الجغرافيا المكانية فائدة في هذه الميزة، فقد شهدت المنصة أيضًا دليلًا واضحًا على انتهاك المستخدمين لسياسات الشركة من خلال إنشاء صور خادعة.

تم تسليط الضوء على ثغرة الأداة من قبل Henk van Ess من Digital Digging، الذي أجرى اختبارات الضغط على النظام. ومن خلال إدخال مطالبات محددة، نجح فان إيس في إنتاج صور واقعية للغاية تصور سيناريوهات جيوسياسية حساسة، بما في ذلك حفر القنابل بالقرب من المستشفيات في غزة وتجمعات اللاجئين الواقعة على طول الحدود المكسيكية. وأثبتت هذه التجارب أن الجهة الخبيثة يمكنها الاستفادة من الأداة لإنتاج أدلة مرئية مقنعة تتناقض مع الواقع. على الرغم من تأكيد جوجل الأولي أن نظامها يتضمن قيودًا على الموضوعات الضارة، أفاد فان إيس أن الذكاء الاصطناعي لم يتم حظر مطالباته أو تخفيفها أو رفضها. وقد تجاوز هذا بشكل فعال الضمانات المقصودة، مما يدل على أنه حتى نماذج الذكاء الاصطناعي المتطورة يمكن إجبارها على توليد روايات ضارة وكاذبة عند دمجها في برامج رسم الخرائط.

حاولت جوجل في البداية تخفيف المخاوف من خلال التأكيد على وجود عوائق تقنية. ادعت الشركة أن جميع الصور التي تم إنشاؤها داخل الأداة كانت مضمنة بعلامة مائية رقمية SynthID للإشارة إلى أن المحتوى كان اصطناعيًا. وشجعوا المستخدمين على التحقق من الصور المشبوهة من خلال إسنادها إلى أدوات أخرى، مثل تطبيق Gemini أو Google Lens. ومع ذلك، قال النقاد إن هذه التدابير لم تكن كافية. أظهر Van Ess أن الوسائط التي تم إنشاؤها يمكنها تجاوز أدوات الكشف الشائعة التي يستخدمها الذكاء الاصطناعي، بما في ذلك تلك التي تستخدمها Hive. علاوة على ذلك، أثبت الاعتماد على العلامات المائية الرقمية أنه دفاع معيب، حيث يمكن تفويت هذه العلامات، أو التغاضي عنها، أو احتمال إزالتها، مما يترك الجمهور عرضة لتصديق صور الأقمار الصناعية المزيفة التي تتنكر في هيئة بيانات موثوقة.

ويسلط الحادث الضوء على التوتر الأوسع داخل صناعة التكنولوجيا فيما يتعلق بالنشر المسؤول للذكاء الاصطناعي التوليدي. في حين زعمت جوجل أن المستخدمين يمكنهم بالفعل التعامل مع صور الويب باستخدام أدوات مختلفة غير الذكاء الاصطناعي، فإن دمج القدرات التوليدية مباشرة في منصة موثوقة مثل جوجل إيرث يقلل بشكل كبير من حاجز الدخول لنشر المعلومات المضللة. يُنظر إلى برنامج Google Earth منذ فترة طويلة على أنه مصدر موثوق للصحفيين والباحثين والجمهور؛ إن إدخال طبقة جيل الذكاء الاصطناعي يهدد تلك الثقة الأساسية. يشير السحب السريع لهذه الميزة إلى أن الشركات تشعر بالضغط لتحقيق التوازن بين الرغبة في الابتكار السريع للمنتجات وحقيقة أن نماذج الذكاء الاصطناعي قادرة في كثير من الأحيان على توليد افتراءات ضارة وعالية الدقة يصعب تمييزها عن الأدلة المرئية الأصلية.