Google ने Google Earth से एक नई जारी की गई सुविधा को वापस ले लिया है, जो शोधकर्ताओं द्वारा यथार्थवादी गलत सूचना बनाने की क्षमता का प्रदर्शन करने के बाद उपयोगकर्ताओं को AI-परिवर्तित उपग्रह चित्र उत्पन्न करने की अनुमति देती थी। कंपनी अब अधिक मजबूत सुरक्षा उपायों को लागू करने के लिए टूल को रोक रही है।
एकता का उदय और तीव्र पतन
Google ने इस सप्ताह की शुरुआत में एक नई सुविधा लॉन्च की थी जिसने अपने नैनो बनाना 2 AI इमेज जेनरेशन मॉडल को सीधे Google Earth के वेब संस्करण में एकीकृत किया था। मूल रूप से कंपनी द्वारा रियल एस्टेट विकास या ऐतिहासिक स्थलों को देखने के लिए एक रचनात्मक उपयोगिता के रूप में तैनात किया गया, यह उपकरण उपयोगकर्ताओं को सरल पाठ संकेतों के माध्यम से उपग्रह और हवाई इमेजरी में हेरफेर करने की अनुमति देता है। हालाँकि, कार्यान्वयन अल्पकालिक था। 31 जुलाई तक, दुरुपयोग की संभावना के संबंध में सार्वजनिक जांच तेज होने के 24 घंटे से भी कम समय में, तकनीकी दिग्गज ने आधिकारिक तौर पर इस सुविधा को वापस ले लिया। Google ने कहा कि वह मजबूत रेलिंग विकसित करने के लिए टूल को वापस ले रहा है, यह देखते हुए कि जहां कुछ भू-स्थानिक पेशेवरों को इस सुविधा में उपयोगिता मिली, वहीं प्लेटफ़ॉर्म ने भ्रामक इमेजरी उत्पन्न करके कंपनी की नीतियों का उल्लंघन करने वाले उपयोगकर्ताओं के स्पष्ट सबूत भी देखे।
भू-स्थानिक डीपफेक के जोखिमों का प्रदर्शन
टूल की भेद्यता को डिजिटल डिगिंग के हेन्क वैन ईएस ने उजागर किया, जिन्होंने सिस्टम पर तनाव परीक्षण किया। विशिष्ट संकेतों को इनपुट करके, वैन ईएस ने गाजा में अस्पतालों के पास बम क्रेटर और मैक्सिकन सीमा पर स्थित शरणार्थी आबादी सहित संवेदनशील भू-राजनीतिक परिदृश्यों को दर्शाने वाली अत्यधिक यथार्थवादी छवियां सफलतापूर्वक उत्पन्न कीं। इन प्रयोगों से साबित हुआ कि एक दुर्भावनापूर्ण अभिनेता उपकरण का लाभ उठाकर ठोस दृश्य साक्ष्य उत्पन्न कर सकता है जो वास्तविकता का खंडन करता है। Google के शुरुआती दावे के बावजूद कि उनके सिस्टम में हानिकारक विषयों पर प्रतिबंध शामिल हैं, वैन ईएस ने बताया कि उनके संकेतों को एआई द्वारा अवरुद्ध, नरम या अस्वीकार नहीं किया गया था। इसने अपेक्षित सुरक्षा उपायों को प्रभावी ढंग से दरकिनार कर दिया, यह प्रदर्शित करते हुए कि मैपिंग सॉफ़्टवेयर में एकीकृत होने पर परिष्कृत एआई मॉडल को भी हानिकारक, झूठे आख्यान उत्पन्न करने के लिए मजबूर किया जा सकता है।
तकनीकी सुरक्षा उपायों की सीमाएँ
Google ने शुरू में तकनीकी बाधाओं की उपस्थिति पर जोर देकर चिंताओं को कम करने का प्रयास किया। कंपनी ने दावा किया कि टूल के भीतर उत्पन्न सभी छवियों को सिंथआईडी डिजिटल वॉटरमार्क के साथ एम्बेड किया गया था ताकि यह संकेत दिया जा सके कि सामग्री सिंथेटिक थी। उन्होंने उपयोगकर्ताओं को जेमिनी ऐप या Google लेंस जैसे अन्य टूल के साथ क्रॉस-रेफ़रेंस करके संदिग्ध इमेजरी को सत्यापित करने के लिए प्रोत्साहित किया। हालाँकि, आलोचकों ने तर्क दिया कि ये उपाय अपर्याप्त थे। वैन ईएस ने प्रदर्शित किया कि उत्पन्न मीडिया सामान्य एआई डिटेक्शन टूल को बायपास कर सकता है, जिसमें हाइव द्वारा उपयोग किए जाने वाले उपकरण भी शामिल हैं। इसके अलावा, डिजिटल वॉटरमार्क पर निर्भरता एक त्रुटिपूर्ण बचाव साबित हुई है, क्योंकि ऐसे मार्करों को छोड़ा जा सकता है, अनदेखा किया जा सकता है, या संभावित रूप से हटाया जा सकता है, जिससे जनता को झूठी सैटेलाइट इमेजरी पर विश्वास करने का खतरा होता है जो आधिकारिक डेटा के रूप में सामने आती है।
उद्योग संदर्भ और भविष्य के निहितार्थ
यह घटना जेनेरेटिव एआई की जिम्मेदार तैनाती को लेकर तकनीकी उद्योग के भीतर व्यापक तनाव को रेखांकित करती है। जबकि Google ने तर्क दिया कि उपयोगकर्ता पहले से ही विभिन्न गैर-एआई उपकरणों का उपयोग करके वेब इमेजरी में हेरफेर कर सकते हैं, Google Earth जैसे विश्वसनीय प्लेटफ़ॉर्म में सीधे जेनरेटिव क्षमताओं का एकीकरण गलत सूचना फैलाने के लिए प्रवेश की बाधा को काफी कम कर देता है। Google Earth को लंबे समय से पत्रकारों, शोधकर्ताओं और जनता के लिए एक विश्वसनीय स्रोत के रूप में देखा गया है; एआई-जेनरेशन परत डालने से उस मूलभूत विश्वास को खतरा है। इस सुविधा की तेजी से वापसी से पता चलता है कि कंपनियां तेजी से उत्पाद नवाचार की इच्छा को इस वास्तविकता के खिलाफ संतुलित करने का दबाव महसूस कर रही हैं कि एआई मॉडल अक्सर हानिकारक, उच्च-निष्ठा निर्माण करने में सक्षम होते हैं जिन्हें प्रामाणिक दृश्य साक्ष्य से अलग करना मुश्किल होता है।
⚖ The Balanced View
Supporting view
Google ने सुझाव दिया कि यह सुविधा उपयोगकर्ताओं को भूगोल के साथ रचनात्मक होने, ऐतिहासिक स्थलों की कल्पना करने और रियल एस्टेट परियोजना की योजना बनाने में सहायता करने के लिए डिज़ाइन की गई थी।
Concerns & criticism
आलोचकों और शोधकर्ताओं ने प्रदर्शित किया कि उपकरण का उपयोग आसानी से यथार्थवादी, हानिकारक गलत सूचना उत्पन्न करने के लिए किया जा सकता है, जैसे कि युद्धग्रस्त साइटें या झूठे मानवीय संकट, जो सत्य के स्रोत के रूप में मंच की प्रतिष्ठा को कमजोर कर सकते हैं।
→What's next
Google ने कहा है कि वह वर्तमान में प्लेटफ़ॉर्म पर संभावित रूप से वापस आने से पहले सुविधा के लिए मजबूत रेलिंग लागू करने पर काम कर रहा है। यह स्पष्ट नहीं है कि क्या कंपनी नैनो बनाना 2 की त्वरित क्षमताओं को महत्वपूर्ण रूप से सीमित करेगी या उत्पन्न छवियों के लिए अधिक कठोर सत्यापन जांच शुरू करेगी।