સંશોધકોએ વાસ્તવિક ખોટી માહિતી બનાવવાની તેની સંભવિતતા દર્શાવ્યા પછી Google એ Google અર્થમાંથી એક નવી રીલિઝ કરેલ સુવિધા ખેંચી છે જે વપરાશકર્તાઓને AI-બદલાયેલી સેટેલાઇટ છબીઓ બનાવવાની મંજૂરી આપે છે. કંપની હવે વધુ મજબૂત સુરક્ષા પગલાં અમલમાં મૂકવા માટે સાધનને થોભાવી રહી છે.
એકીકરણનો ઉદય અને સ્વિફ્ટ પતન
ગૂગલે આ અઠવાડિયાની શરૂઆતમાં એક નવું ફીચર લોન્ચ કર્યું હતું જેણે તેના નેનો બનાના 2 એઆઈ ઇમેજ જનરેશન મોડલને સીધા જ ગૂગલ અર્થના વેબ વર્ઝનમાં એકીકૃત કર્યા હતા. મૂળ રૂપે કંપની દ્વારા રિયલ એસ્ટેટ વિકાસ અથવા ઐતિહાસિક સીમાચિહ્નોને વિઝ્યુઅલાઈઝ કરવા માટે સર્જનાત્મક ઉપયોગિતા તરીકે સ્થાન આપવામાં આવ્યું હતું, આ ટૂલ વપરાશકર્તાઓને સરળ ટેક્સ્ટ પ્રોમ્પ્ટ્સ દ્વારા સેટેલાઇટ અને એરિયલ ઇમેજરીની હેરફેર કરવાની મંજૂરી આપે છે. જો કે, અમલીકરણ અલ્પજીવી હતું. જુલાઇ 31 સુધીમાં, દુરુપયોગની સંભવિતતા અંગે જાહેર ચકાસણી તીવ્ર થયાના 24 કલાકથી ઓછા સમયમાં, ટેક જાયન્ટે સત્તાવાર રીતે આ સુવિધાને ખેંચી લીધી. ગૂગલે જણાવ્યું હતું કે તે મજબૂત રક્ષકોને વિકસાવવા માટેના સાધનને પાછું ખેંચી રહ્યું છે, નોંધ્યું છે કે જ્યારે કેટલાક જિયોસ્પેશિયલ પ્રોફેશનલ્સને આ સુવિધામાં ઉપયોગીતા મળી છે, ત્યારે પ્લેટફોર્મમાં વપરાશકર્તાઓ દ્વારા ભ્રામક છબી પેદા કરીને કંપનીની નીતિઓનું ઉલ્લંઘન કરવાના સ્પષ્ટ પુરાવા પણ જોવા મળ્યા હતા.
જીઓસ્પેશિયલ ડીપફેક્સના જોખમોનું પ્રદર્શન
ટૂલની નબળાઈને ડિજિટલ ડિગિંગના હેન્ક વેન એસ દ્વારા પ્રકાશિત કરવામાં આવી હતી, જેમણે સિસ્ટમ પર તણાવ પરીક્ષણો કર્યા હતા. ચોક્કસ પ્રોમ્પ્ટ્સને ઇનપુટ કરીને, વેન એસે સફળતાપૂર્વક અત્યંત વાસ્તવિક છબીઓ બનાવી છે જે સંવેદનશીલ ભૌગોલિક રાજકીય દૃશ્યો દર્શાવે છે, જેમાં ગાઝાની હોસ્પિટલો નજીક બોમ્બ ક્રેટર અને મેક્સીકન સરહદે આવેલી શરણાર્થીઓની વસ્તીનો સમાવેશ થાય છે. આ પ્રયોગોએ સાબિત કર્યું કે દૂષિત અભિનેતા વાસ્તવિકતાનો વિરોધાભાસ કરતા ખાતરીપૂર્વકના દ્રશ્ય પુરાવા ઉત્પન્ન કરવા માટે સાધનનો લાભ લઈ શકે છે. Google ના પ્રારંભિક નિવેદન હોવા છતાં કે તેમની સિસ્ટમમાં હાનિકારક વિષયો પરના નિયંત્રણોનો સમાવેશ થાય છે, વાન Ess એ અહેવાલ આપ્યો કે તેના પ્રોમ્પ્ટ્સને AI દ્વારા અવરોધિત, નરમ અથવા નકારવામાં આવ્યાં નથી. આનાથી અસરકારક રીતે ઉદ્દેશિત રક્ષકોને બાયપાસ કરવામાં આવ્યું, જે દર્શાવે છે કે મેપિંગ સોફ્ટવેરમાં સંકલિત કરવામાં આવે ત્યારે અત્યાધુનિક AI મોડલને પણ નુકસાનકારક, ખોટા વર્ણનો પેદા કરવા દબાણ કરી શકાય છે.
ટેકનિકલ સેફગાર્ડ્સની મર્યાદાઓ
ગૂગલે શરૂઆતમાં તકનીકી અવરોધોની હાજરી પર ભાર મૂકીને ચિંતાઓને ઘટાડવાનો પ્રયાસ કર્યો. કંપનીએ દાવો કર્યો હતો કે ટૂલની અંદર જનરેટ થયેલી તમામ ઈમેજો સિન્થઆઈડી ડિજિટલ વોટરમાર્ક સાથે એમ્બેડ કરવામાં આવી હતી જેથી તે સંકેત આપે કે સામગ્રી સિન્થેટિક છે. તેઓએ વપરાશકર્તાઓને જેમિની એપ્લિકેશન અથવા ગૂગલ લેન્સ જેવા અન્ય સાધનો સાથે ક્રોસ-રેફરન્સ કરીને શંકાસ્પદ છબીને ચકાસવા માટે પ્રોત્સાહિત કર્યા. જો કે, ટીકાકારોએ દલીલ કરી હતી કે આ પગલાં અપૂરતા હતા. વેન એસ એ દર્શાવ્યું હતું કે જનરેટ કરેલ મીડિયા સામાન્ય AI શોધ સાધનોને બાયપાસ કરી શકે છે, જેમાં મધપૂડો દ્વારા ઉપયોગમાં લેવાતા સાધનોનો સમાવેશ થાય છે. વધુમાં, ડિજિટલ વોટરમાર્ક્સ પરની નિર્ભરતા એક ખામીયુક્ત સંરક્ષણ સાબિત થઈ છે, કારણ કે આવા માર્કર્સ ચૂકી શકાય છે, અવગણવામાં આવે છે અથવા સંભવિત રીતે દૂર કરી શકાય છે, જેનાથી જનતા ખોટી ઉપગ્રહ છબીઓ પર વિશ્વાસ કરવા માટે સંવેદનશીલ બને છે જે અધિકૃત ડેટા તરીકે માસ્કરેડ કરે છે.
ઉદ્યોગ સંદર્ભ અને ભાવિ અસરો
આ ઘટના જનરેટિવ AI ની જવાબદાર જમાવટ અંગે ટેક ઉદ્યોગમાં વ્યાપક તણાવને રેખાંકિત કરે છે. જ્યારે ગૂગલે દલીલ કરી હતી કે વપરાશકર્તાઓ પહેલેથી જ વિવિધ બિન-એઆઈ ટૂલ્સનો ઉપયોગ કરીને વેબ ઈમેજરીની હેરફેર કરી શકે છે, ત્યારે ગૂગલ અર્થ જેવા વિશ્વસનીય પ્લેટફોર્મમાં જનરેટિવ ક્ષમતાઓનું એકીકરણ નોંધપાત્ર રીતે અસ્પષ્ટ માહિતી ફેલાવવા માટે પ્રવેશના અવરોધને નોંધપાત્ર રીતે ઘટાડે છે. ગૂગલ અર્થ લાંબા સમયથી પત્રકારો, સંશોધકો અને લોકો માટે વિશ્વસનીય સ્ત્રોત તરીકે જોવામાં આવે છે; AI-જનરેશન લેયર દાખલ કરવાથી તે પાયાના વિશ્વાસને ખતરો છે. આ સુવિધાનો ઝડપી ઉપાડ સૂચવે છે કે કંપનીઓ એ વાસ્તવિકતા સામે ઝડપી ઉત્પાદન નવીનતાની ઇચ્છાને સંતુલિત કરવા દબાણ અનુભવી રહી છે કે AI મોડેલો વારંવાર હાનિકારક, ઉચ્ચ-વફાદારી ફેબ્રિકેશન બનાવવા માટે સક્ષમ છે જેને અધિકૃત દ્રશ્ય પુરાવાઓથી અલગ પાડવા મુશ્કેલ છે.
⚖ The Balanced View
Supporting view
ગૂગલે સૂચવ્યું હતું કે આ સુવિધા વપરાશકર્તાઓને ભૂગોળ સાથે સર્જનાત્મક બનવા, ઐતિહાસિક સ્થળોને વિઝ્યુઅલાઈઝ કરવા અને રિયલ એસ્ટેટ પ્રોજેક્ટ પ્લાનિંગમાં મદદ કરવા માટે ડિઝાઇન કરવામાં આવી હતી.
Concerns & criticism
વિવેચકો અને સંશોધકોએ દર્શાવ્યું હતું કે આ સાધનનો ઉપયોગ વાસ્તવિક, હાનિકારક ખોટી માહિતી, જેમ કે યુદ્ધગ્રસ્ત સાઇટ્સ અથવા ખોટી માનવતાવાદી કટોકટી પેદા કરવા માટે સરળતાથી થઈ શકે છે, જે સત્યના સ્ત્રોત તરીકે પ્લેટફોર્મની પ્રતિષ્ઠાને નબળી પાડી શકે છે.
→What's next
Google એ જણાવ્યું છે કે તે હાલમાં પ્લેટફોર્મ પર સંભવિતપણે પાછું આવે તે પહેલાં તે સુવિધા માટે મજબૂત રૅડરેલ્સ લાગુ કરવા માટે કામ કરી રહ્યું છે. તે અસ્પષ્ટ છે કે શું કંપની નેનો બનાના 2 ની પ્રોમ્પ્ટ ક્ષમતાઓને નોંધપાત્ર રીતે મર્યાદિત કરશે અથવા જનરેટ કરેલી છબીઓ માટે વધુ સખત ચકાસણી તપાસો રજૂ કરશે.