ഗൂഗിൾ എർത്തിൽ നിന്ന് പുതിയതായി പുറത്തിറക്കിയ ഫീച്ചർ ഗൂഗിൾ പിൻവലിച്ചു, അത് ഗവേഷകർ റിയലിസ്റ്റിക് തെറ്റായ വിവരങ്ങൾ സൃഷ്ടിക്കുന്നതിനുള്ള സാധ്യത പ്രകടമാക്കിയതിന് ശേഷം AI-യിൽ മാറ്റം വരുത്തിയ ഉപഗ്രഹ ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ ഉപയോക്താക്കളെ അനുവദിച്ചു. കൂടുതൽ ശക്തമായ സുരക്ഷാ നടപടികൾ നടപ്പിലാക്കുന്നതിനായി കമ്പനി ഇപ്പോൾ ഉപകരണം താൽക്കാലികമായി നിർത്തുകയാണ്.
സംയോജനത്തിൻ്റെ ഉയർച്ചയും വേഗത്തിലുള്ള പതനവും
ഗൂഗിൾ അതിൻ്റെ നാനോ ബനാന 2 എഐ ഇമേജ് ജനറേഷൻ മോഡൽ ഗൂഗിൾ എർത്തിൻ്റെ വെബ് പതിപ്പിലേക്ക് നേരിട്ട് സംയോജിപ്പിച്ച് ഈ ആഴ്ച ആദ്യം ഒരു പുതിയ ഫീച്ചർ അവതരിപ്പിച്ചു. റിയൽ എസ്റ്റേറ്റ് സംഭവവികാസങ്ങളോ ചരിത്രപരമായ ലാൻഡ്മാർക്കുകളോ ദൃശ്യവൽക്കരിക്കുന്നതിനുള്ള ഒരു ക്രിയേറ്റീവ് യൂട്ടിലിറ്റിയായി കമ്പനി ആദ്യം സ്ഥാപിച്ചു, ലളിതമായ ടെക്സ്റ്റ് പ്രോംപ്റ്റുകൾ വഴി ഉപഗ്രഹ, ഏരിയൽ ഇമേജറി കൈകാര്യം ചെയ്യാൻ ഈ ഉപകരണം ഉപയോക്താക്കളെ അനുവദിച്ചു. എന്നിരുന്നാലും, നടപ്പാക്കൽ ഹ്രസ്വകാലമായിരുന്നു. ജൂലൈ 31-ഓടെ, ദുരുപയോഗം ചെയ്യാനുള്ള സാധ്യതയെക്കുറിച്ച് പൊതുജനങ്ങളുടെ സൂക്ഷ്മപരിശോധന 24 മണിക്കൂറിനുള്ളിൽ, ടെക് ഭീമൻ ഔദ്യോഗികമായി ഫീച്ചർ പിൻവലിച്ചു. ശക്തമായ ഗാർഡ്റെയിലുകൾ വികസിപ്പിക്കുന്നതിനുള്ള ഉപകരണം പിൻവലിക്കുകയാണെന്ന് ഗൂഗിൾ പ്രസ്താവിച്ചു, ചില ജിയോസ്പേഷ്യൽ പ്രൊഫഷണലുകൾ ഈ സവിശേഷതയിൽ പ്രയോജനം കണ്ടെത്തിയെങ്കിലും, വഞ്ചനാപരമായ ഇമേജറി സൃഷ്ടിച്ചുകൊണ്ട് ഉപയോക്താക്കൾ കമ്പനി നയങ്ങൾ ലംഘിക്കുന്നതിൻ്റെ വ്യക്തമായ തെളിവുകളും പ്ലാറ്റ്ഫോമിൽ കണ്ടു.
ജിയോസ്പേഷ്യൽ ഡീപ്ഫേക്കുകളുടെ അപകടസാധ്യതകൾ പ്രകടിപ്പിക്കുന്നു
സിസ്റ്റത്തിൽ സ്ട്രെസ് ടെസ്റ്റുകൾ നടത്തിയ ഡിജിറ്റൽ ഡിഗ്ഗിംഗിലെ ഹെങ്ക് വാൻ എസ് ആണ് ഉപകരണത്തിൻ്റെ ദുർബലത എടുത്തുകാണിച്ചത്. നിർദ്ദിഷ്ട നിർദ്ദേശങ്ങൾ നൽകിക്കൊണ്ട്, ഗാസയിലെ ആശുപത്രികൾക്ക് സമീപമുള്ള ബോംബ് ഗർത്തങ്ങളും മെക്സിക്കൻ അതിർത്തിയിൽ സ്ഥിതി ചെയ്യുന്ന അഭയാർത്ഥി ജനസംഖ്യയും ഉൾപ്പെടെയുള്ള സെൻസിറ്റീവ് ജിയോപൊളിറ്റിക്കൽ സാഹചര്യങ്ങൾ ചിത്രീകരിക്കുന്ന വളരെ റിയലിസ്റ്റിക് ചിത്രങ്ങൾ വാൻ എസ്സ് വിജയകരമായി സൃഷ്ടിച്ചു. യാഥാർത്ഥ്യത്തിന് വിരുദ്ധമായ ബോധ്യപ്പെടുത്തുന്ന ദൃശ്യ തെളിവുകൾ നിർമ്മിക്കുന്നതിനുള്ള ഉപകരണം ഒരു ക്ഷുദ്ര നടന് ഉപയോഗിക്കാമെന്ന് ഈ പരീക്ഷണങ്ങൾ തെളിയിച്ചു. തങ്ങളുടെ സിസ്റ്റത്തിൽ ഹാനികരമായ വിഷയങ്ങളിൽ നിയന്ത്രണങ്ങൾ ഉണ്ടെന്ന് ഗൂഗിളിൻ്റെ പ്രാരംഭ അവകാശവാദം ഉണ്ടായിരുന്നിട്ടും, തൻ്റെ നിർദ്ദേശങ്ങൾ AI തടയുകയോ മയപ്പെടുത്തുകയോ നിരസിക്കുകയോ ചെയ്തിട്ടില്ലെന്ന് വാൻ എസ് റിപ്പോർട്ട് ചെയ്തു. മാപ്പിംഗ് സോഫ്റ്റ്വെയറുമായി സംയോജിപ്പിക്കുമ്പോൾ അത്യാധുനിക AI മോഡലുകൾ പോലും ദോഷകരവും തെറ്റായ വിവരണങ്ങളും സൃഷ്ടിക്കാൻ നിർബന്ധിതരാകുമെന്ന് തെളിയിക്കുന്ന, ഉദ്ദേശിച്ച സുരക്ഷാ മാർഗങ്ങളെ ഇത് ഫലപ്രദമായി മറികടന്നു.
സാങ്കേതിക സുരക്ഷയുടെ പരിമിതികൾ
സാങ്കേതിക തടസ്സങ്ങളുടെ സാന്നിധ്യം ഊന്നിപ്പറഞ്ഞുകൊണ്ട് ആശങ്കകൾ ലഘൂകരിക്കാൻ Google തുടക്കത്തിൽ ശ്രമിച്ചു. ഉള്ളടക്കം സിന്തറ്റിക് ആണെന്ന് സൂചിപ്പിക്കാൻ ടൂളിനുള്ളിൽ സൃഷ്ടിച്ച എല്ലാ ചിത്രങ്ങളും ഒരു സിന്തിഐഡി ഡിജിറ്റൽ വാട്ടർമാർക്ക് ഉപയോഗിച്ച് ഉൾച്ചേർത്തതാണെന്ന് കമ്പനി അവകാശപ്പെട്ടു. ജെമിനി ആപ്പ് അല്ലെങ്കിൽ ഗൂഗിൾ ലെൻസ് പോലുള്ള മറ്റ് ടൂളുകൾ ഉപയോഗിച്ച് സംശയാസ്പദമായ ഇമേജറി ക്രോസ്-റഫറൻസ് ചെയ്ത് പരിശോധിക്കാൻ അവർ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിച്ചു. എന്നിരുന്നാലും, ഈ നടപടികൾ അപര്യാപ്തമാണെന്ന് വിമർശകർ വാദിച്ചു. ഹൈവ് ഉപയോഗിക്കുന്നതുൾപ്പെടെയുള്ള പൊതുവായ AI കണ്ടെത്തൽ ഉപകരണങ്ങളെ മറികടക്കാൻ ജനറേറ്റഡ് മീഡിയയ്ക്ക് കഴിയുമെന്ന് വാൻ എസ്സ് തെളിയിച്ചു. കൂടാതെ, ഡിജിറ്റൽ വാട്ടർമാർക്കുകളെ ആശ്രയിക്കുന്നത് ഒരു വികലമായ പ്രതിരോധമാണെന്ന് തെളിയിക്കപ്പെട്ടിട്ടുണ്ട്, കാരണം അത്തരം മാർക്കറുകൾ നഷ്ടപ്പെടുകയോ അവഗണിക്കപ്പെടുകയോ അല്ലെങ്കിൽ നീക്കം ചെയ്യപ്പെടുകയോ ചെയ്യാം, ഇത് ആധികാരിക ഡാറ്റയായി മാറുന്ന വ്യാജ സാറ്റലൈറ്റ് ഇമേജറി വിശ്വസിക്കാൻ പൊതുജനങ്ങളെ ദുർബലരാക്കുന്നു.
വ്യവസായ സാഹചര്യവും ഭാവി പ്രത്യാഘാതങ്ങളും
ജനറേറ്റീവ് AI യുടെ ഉത്തരവാദിത്ത വിന്യാസം സംബന്ധിച്ച് സാങ്കേതിക വ്യവസായത്തിനുള്ളിലെ ഒരു വിശാലമായ പിരിമുറുക്കത്തിന് ഈ സംഭവം അടിവരയിടുന്നു. വിവിധ AI ഇതര ടൂളുകൾ ഉപയോഗിച്ച് ഉപയോക്താക്കൾക്ക് ഇതിനകം തന്നെ വെബ് ഇമേജറി കൈകാര്യം ചെയ്യാൻ കഴിയുമെന്ന് Google വാദിക്കുമ്പോൾ, ഗൂഗിൾ എർത്ത് പോലെയുള്ള വിശ്വസനീയമായ പ്ലാറ്റ്ഫോമിലേക്ക് ജനറേറ്റീവ് കഴിവുകൾ നേരിട്ട് സംയോജിപ്പിക്കുന്നത് തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്നതിനുള്ള പ്രവേശനത്തിനുള്ള തടസ്സം ഗണ്യമായി കുറയ്ക്കുന്നു. പത്രപ്രവർത്തകർ, ഗവേഷകർ, പൊതുജനങ്ങൾ എന്നിവർക്ക് വിശ്വസനീയമായ ഉറവിടമായി ഗൂഗിൾ എർത്ത് വളരെക്കാലമായി വീക്ഷിക്കപ്പെടുന്നു; ഒരു AI-തലമുറ ലെയർ ചേർക്കുന്നത് ആ അടിസ്ഥാന വിശ്വാസത്തെ ഭീഷണിപ്പെടുത്തുന്നു. ഈ സവിശേഷതയുടെ ദ്രുതഗതിയിലുള്ള പിൻവലിക്കൽ സൂചിപ്പിക്കുന്നത്, ആധികാരിക ദൃശ്യ തെളിവുകളിൽ നിന്ന് വേർതിരിച്ചറിയാൻ പ്രയാസമുള്ള ഹാനികരമായ, ഉയർന്ന വിശ്വാസ്യതയുള്ള കെട്ടുകഥകൾ സൃഷ്ടിക്കാൻ AI മോഡലുകൾക്ക് ഇടയ്ക്കിടെ കഴിവുണ്ടെന്ന യാഥാർത്ഥ്യത്തിനെതിരെ ദ്രുത ഉൽപ്പന്ന നവീകരണത്തിനുള്ള ആഗ്രഹം സന്തുലിതമാക്കാനുള്ള സമ്മർദ്ദം കമ്പനികൾ അനുഭവിക്കുന്നുണ്ടെന്ന് സൂചിപ്പിക്കുന്നു.
⚖ The Balanced View
Supporting view
ഭൂമിശാസ്ത്രത്തിൽ സർഗ്ഗാത്മകത നേടാനും ചരിത്രപരമായ സൈറ്റുകൾ ദൃശ്യവൽക്കരിക്കാനും റിയൽ എസ്റ്റേറ്റ് പ്രോജക്റ്റ് ആസൂത്രണത്തെ സഹായിക്കാനും ഉപയോക്താക്കളെ അനുവദിക്കുന്നതിനാണ് ഈ സവിശേഷത രൂപകൽപ്പന ചെയ്തിരിക്കുന്നതെന്ന് ഗൂഗിൾ നിർദ്ദേശിച്ചു.
Concerns & criticism
യുദ്ധത്തിൽ തകർന്ന സൈറ്റുകൾ അല്ലെങ്കിൽ തെറ്റായ മാനുഷിക പ്രതിസന്ധികൾ പോലുള്ള യാഥാർത്ഥ്യവും ദോഷകരവുമായ തെറ്റായ വിവരങ്ങൾ സൃഷ്ടിക്കാൻ ഈ ഉപകരണം എളുപ്പത്തിൽ ഉപയോഗിക്കാമെന്ന് വിമർശകരും ഗവേഷകരും തെളിയിച്ചു, ഇത് സത്യത്തിൻ്റെ ഉറവിടമെന്ന നിലയിൽ പ്ലാറ്റ്ഫോമിൻ്റെ പ്രശസ്തിയെ ദുർബലപ്പെടുത്തും.
→What's next
പ്ലാറ്റ്ഫോമിലേക്ക് തിരികെ വരുന്നതിന് മുമ്പ് ഫീച്ചറിന് വേണ്ടി ശക്തമായ ഗാർഡ്റെയിലുകൾ നടപ്പിലാക്കുന്നതിനായി നിലവിൽ പ്രവർത്തിക്കുകയാണെന്ന് Google പ്രസ്താവിച്ചു. നാനോ ബനാന 2 ൻ്റെ പ്രോംപ്റ്റ് കഴിവുകൾ കമ്പനി ഗണ്യമായി പരിമിതപ്പെടുത്തുമോ അതോ ജനറേറ്റഡ് ഇമേജുകൾക്കായി കൂടുതൽ കർശനമായ പരിശോധനാ പരിശോധനകൾ അവതരിപ്പിക്കുമോ എന്നത് വ്യക്തമല്ല.