Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

Google ने या आठवड्याच्या सुरुवातीला एक नवीन वैशिष्ट्य लाँच केले ज्याने त्याचे Nano Banana 2 AI प्रतिमा निर्मिती मॉडेल थेट Google Earth च्या वेब आवृत्तीमध्ये समाकलित केले. रिअल इस्टेट घडामोडी किंवा ऐतिहासिक खुणा पाहण्यासाठी एक सर्जनशील उपयुक्तता म्हणून कंपनीने मूळ स्थान दिलेले, साधनाने वापरकर्त्यांना साध्या मजकूर प्रॉम्प्टद्वारे उपग्रह आणि हवाई प्रतिमा हाताळण्याची परवानगी दिली. मात्र, अंमलबजावणी अल्पकाळ टिकली. 31 जुलैपर्यंत, दुरुपयोगाच्या संभाव्यतेबद्दल सार्वजनिक छाननी तीव्र झाल्यानंतर 24 तासांपेक्षा कमी, टेक जायंटने अधिकृतपणे वैशिष्ट्य खेचले. Google ने सांगितले की ते मजबूत रेलिंग विकसित करण्यासाठी साधन मागे घेत आहे, हे लक्षात घेऊन की काही भू-स्थानिक व्यावसायिकांना वैशिष्ट्यामध्ये उपयुक्तता आढळली असताना, प्लॅटफॉर्मवर वापरकर्त्यांनी भ्रामक प्रतिमा निर्माण करून कंपनीच्या धोरणांचे उल्लंघन केल्याचा स्पष्ट पुरावा देखील दिसला.

उपकरणाची असुरक्षा डिजिटल डिगिंगच्या हेंक व्हॅन एस्सने हायलाइट केली होती, ज्यांनी सिस्टमवर ताण चाचण्या केल्या. विशिष्ट प्रॉम्प्ट्स इनपुट करून, व्हॅन एस्सने गाझामधील रुग्णालयांजवळील बॉम्ब क्रेटर्स आणि मेक्सिकन सीमेवर वसलेल्या निर्वासित लोकसंख्येसह संवेदनशील भू-राजकीय परिस्थिती दर्शविणारी अत्यंत वास्तववादी प्रतिमा यशस्वीपणे व्युत्पन्न केली. या प्रयोगांनी हे सिद्ध केले की दुर्भावनापूर्ण अभिनेता वास्तविकतेच्या विरोधातील खात्रीशीर दृश्य पुरावे तयार करण्यासाठी साधनाचा फायदा घेऊ शकतो. त्यांच्या सिस्टममध्ये हानिकारक विषयांवर निर्बंध समाविष्ट आहेत असे Google चे प्रारंभिक प्रतिपादन असूनही, व्हॅन एस्सने नोंदवले की त्याच्या प्रॉम्प्ट्स AI द्वारे अवरोधित, मऊ किंवा नाकारल्या गेल्या नाहीत. मॅपिंग सॉफ्टवेअरमध्ये समाकलित केल्यावर अत्याधुनिक AI मॉडेल्सनाही हानीकारक, खोट्या कथन निर्माण करण्यास भाग पाडले जाऊ शकते हे दाखवून, हे प्रभावीपणे इच्छित सुरक्षेपासून दूर गेले.

Google ने सुरुवातीला तांत्रिक अडथळ्यांच्या उपस्थितीवर जोर देऊन चिंता कमी करण्याचा प्रयत्न केला. कंटेंट सिंथेटिक असल्याचे संकेत देण्यासाठी टूलमध्ये तयार केलेल्या सर्व प्रतिमा सिंथआयडी डिजिटल वॉटरमार्कसह एम्बेड केल्या असल्याचा दावा कंपनीने केला आहे. त्यांनी वापरकर्त्यांना जेमिनी ॲप किंवा Google लेन्स सारख्या इतर साधनांसह संशयास्पद प्रतिमा सत्यापित करण्यासाठी प्रोत्साहित केले. तथापि, समीक्षकांनी युक्तिवाद केला की हे उपाय अपुरे आहेत. व्हॅन एस्सने दाखवून दिले की व्युत्पन्न केलेले माध्यम Hive द्वारे वापरलेल्या सामान्य AI शोध साधनांना बायपास करू शकते. शिवाय, डिजिटल वॉटरमार्कवर अवलंबून राहणे हे एक दोषपूर्ण संरक्षण असल्याचे सिद्ध झाले आहे, कारण असे मार्कर चुकले जाऊ शकतात, दुर्लक्ष केले जाऊ शकतात किंवा संभाव्यपणे काढले जाऊ शकतात, ज्यामुळे लोक चुकीच्या उपग्रह प्रतिमांवर विश्वास ठेवण्यास असुरक्षित राहतात जे अधिकृत डेटा म्हणून मास्क करतात.

ही घटना जनरेटिव्ह एआयच्या जबाबदार तैनातीबाबत तंत्रज्ञान उद्योगातील एक व्यापक तणाव अधोरेखित करते. Google ने असा युक्तिवाद केला की वापरकर्ते आधीपासूनच विविध नॉन-एआय टूल्स वापरून वेब इमेजरीमध्ये फेरफार करू शकतात, Google Earth सारख्या विश्वसनीय प्लॅटफॉर्ममध्ये थेट जनरेटिव्ह क्षमतांचे एकत्रीकरण चुकीची माहिती पसरवण्याच्या प्रवेशातील अडथळा लक्षणीयरीत्या कमी करते. पत्रकार, संशोधक आणि लोकांसाठी Google Earth ला एक विश्वासार्ह स्रोत म्हणून पाहिले जात आहे; AI-जनरेशन लेयर टाकल्याने त्या पायाभूत विश्वासाला धोका निर्माण होतो. हे वैशिष्ट्य जलद माघार घेणे सूचित करते की AI मॉडेल्स प्रामाणिक व्हिज्युअल पुराव्यांपासून वेगळे करणे कठीण असलेल्या हानीकारक, उच्च-निष्ठायुक्त बनावट निर्माण करण्यास वारंवार सक्षम आहेत या वास्तविकतेच्या विरुद्ध जलद उत्पादन नवकल्पना करण्याच्या इच्छेमध्ये संतुलन राखण्यासाठी कंपन्यांना दबाव जाणवत आहे.