వాస్తవిక తప్పుడు సమాచారాన్ని సృష్టించే సామర్థ్యాన్ని పరిశోధకులు ప్రదర్శించిన తర్వాత AI-మార్పు చేసిన ఉపగ్రహ చిత్రాలను రూపొందించడానికి వినియోగదారులను అనుమతించే Google Earth నుండి Google కొత్తగా విడుదల చేసిన ఫీచర్ను ఉపసంహరించుకుంది. మరింత పటిష్టమైన భద్రతా చర్యలను అమలు చేయడానికి కంపెనీ ఇప్పుడు సాధనాన్ని పాజ్ చేస్తోంది.
ది రైజ్ అండ్ స్విఫ్ట్ ఫాల్ ఆఫ్ ది ఇంటిగ్రేషన్
Google తన నానో బనానా 2 AI ఇమేజ్ జనరేషన్ మోడల్ను నేరుగా Google Earth యొక్క వెబ్ వెర్షన్లో అనుసంధానించే కొత్త ఫీచర్ను ఈ వారం ప్రారంభంలో ప్రారంభించింది. రియల్ ఎస్టేట్ పరిణామాలు లేదా చారిత్రక ల్యాండ్మార్క్లను దృశ్యమానం చేయడానికి సృజనాత్మక యుటిలిటీగా కంపెనీ మొదట ఉంచింది, ఈ సాధనం సాధారణ టెక్స్ట్ ప్రాంప్ట్ల ద్వారా ఉపగ్రహ మరియు వైమానిక చిత్రాలను మార్చడానికి వినియోగదారులను అనుమతించింది. అయితే, అమలు స్వల్పకాలికం. జూలై 31 నాటికి, దుర్వినియోగానికి సంబంధించిన సంభావ్యత గురించి పబ్లిక్ స్క్రూటిని తీవ్రతరం చేసిన 24 గంటలలోపు, టెక్ దిగ్గజం అధికారికంగా ఫీచర్ను ఉపసంహరించుకుంది. Google బలమైన గార్డ్రైల్లను అభివృద్ధి చేయడానికి సాధనాన్ని ఉపసంహరించుకుంటున్నట్లు పేర్కొంది, కొంతమంది భౌగోళిక నిపుణులు ఈ ఫీచర్లో యుటిలిటీని కనుగొన్నప్పటికీ, మోసపూరిత చిత్రాలను రూపొందించడం ద్వారా వినియోగదారులు కంపెనీ విధానాలను ఉల్లంఘించినట్లు ప్లాట్ఫారమ్ స్పష్టమైన సాక్ష్యాలను చూసింది.
జియోస్పేషియల్ డీప్ఫేక్ల ప్రమాదాలను ప్రదర్శించడం
సిస్టమ్పై ఒత్తిడి పరీక్షలను నిర్వహించిన డిజిటల్ డిగ్గింగ్కు చెందిన హెంక్ వాన్ ఎస్ ఈ సాధనం యొక్క దుర్బలత్వాన్ని హైలైట్ చేశారు. నిర్దిష్ట ప్రాంప్ట్లను ఇన్పుట్ చేయడం ద్వారా, గాజాలోని ఆసుపత్రుల సమీపంలో బాంబు క్రేటర్లు మరియు మెక్సికన్ సరిహద్దు వెంబడి ఉన్న శరణార్థుల జనాభాతో సహా సున్నితమైన భౌగోళిక రాజకీయ దృశ్యాలను వర్ణించే అత్యంత వాస్తవిక చిత్రాలను వాన్ ఎస్ విజయవంతంగా రూపొందించింది. ఈ ప్రయోగాలు ఒక హానికరమైన నటుడు వాస్తవికతకు విరుద్ధమైన దృశ్యమాన సాక్ష్యాలను రూపొందించడానికి సాధనాన్ని ఉపయోగించవచ్చని నిరూపించాయి. తమ సిస్టమ్ హానికరమైన అంశాలపై పరిమితులను కలిగి ఉందని Google యొక్క ప్రాధమిక వాదన ఉన్నప్పటికీ, వాన్ ఎస్ తన ప్రాంప్ట్లు AI ద్వారా నిరోధించబడలేదని, మృదువుగా లేదా తిరస్కరించబడలేదని నివేదించింది. ఇది ఉద్దేశించిన రక్షణలను సమర్థవంతంగా దాటవేసి, అధునాతన AI నమూనాలు కూడా మ్యాపింగ్ సాఫ్ట్వేర్లో విలీనం చేయబడినప్పుడు నష్టపరిచే, తప్పుడు కథనాలను రూపొందించడానికి బలవంతం చేయవచ్చని నిరూపిస్తుంది.
సాంకేతిక భద్రతల పరిమితులు
గూగుల్ మొదట్లో సాంకేతిక నిరోధకాల ఉనికిని నొక్కి చెప్పడం ద్వారా ఆందోళనలను తగ్గించడానికి ప్రయత్నించింది. టూల్లో రూపొందించబడిన అన్ని చిత్రాలను కంటెంట్ సింథటిక్ అని సూచించడానికి సింథిడ్ డిజిటల్ వాటర్మార్క్తో పొందుపరచబడిందని కంపెనీ పేర్కొంది. వారు అనుమానాస్పద చిత్రాలను జెమిని యాప్ లేదా Google లెన్స్ వంటి ఇతర సాధనాలతో క్రాస్-రిఫరెన్స్ చేయడం ద్వారా ధృవీకరించమని వినియోగదారులను ప్రోత్సహించారు. అయితే, ఈ చర్యలు సరిపోవని విమర్శకులు వాదించారు. జనరేట్ చేయబడిన మీడియా హైవ్ ఉపయోగించే వాటితో సహా సాధారణ AI గుర్తింపు సాధనాలను దాటవేయగలదని వాన్ ఎస్ ప్రదర్శించారు. అంతేకాకుండా, డిజిటల్ వాటర్మార్క్లపై ఆధారపడటం అనేది లోపభూయిష్ట రక్షణగా నిరూపించబడింది, ఎందుకంటే అటువంటి గుర్తులను తప్పిపోవచ్చు, నిర్లక్ష్యం చేయవచ్చు లేదా సమర్థవంతంగా తొలగించవచ్చు, దీని వలన ప్రజలు అధికారిక డేటాగా చూపబడే తప్పుడు ఉపగ్రహ చిత్రాలను నమ్మే అవకాశం ఉంది.
పరిశ్రమ సందర్భం మరియు భవిష్యత్తు చిక్కులు
ఉత్పాదక AI యొక్క బాధ్యతాయుతమైన విస్తరణకు సంబంధించి టెక్ పరిశ్రమలో విస్తృత ఉద్రిక్తతను ఈ సంఘటన నొక్కి చెబుతుంది. వివిధ నాన్-AI సాధనాలను ఉపయోగించి వినియోగదారులు ఇప్పటికే వెబ్ చిత్రాలను మార్చగలరని Google వాదించినప్పటికీ, Google Earth వంటి విశ్వసనీయ ప్లాట్ఫారమ్లో నేరుగా ఉత్పాదక సామర్థ్యాలను ఏకీకృతం చేయడం వలన తప్పుడు సమాచారాన్ని వ్యాప్తి చేయడం కోసం ప్రవేశానికి అడ్డంకిని గణనీయంగా తగ్గిస్తుంది. గూగుల్ ఎర్త్ చాలా కాలంగా జర్నలిస్టులు, పరిశోధకులు మరియు ప్రజలకు నమ్మకమైన మూలంగా పరిగణించబడుతుంది; AI-తరం పొరను చొప్పించడం ఆ పునాది నమ్మకాన్ని బెదిరిస్తుంది. ఈ ఫీచర్ యొక్క వేగవంతమైన ఉపసంహరణ, AI మోడల్లు తరచుగా హానికరమైన, అధిక-విశ్వసనీయమైన కల్పనలను రూపొందించగల సామర్థ్యాన్ని కలిగి ఉన్న వాస్తవికతకు వ్యతిరేకంగా వేగవంతమైన ఉత్పత్తి ఆవిష్కరణ కోరికను సమతుల్యం చేయడానికి కంపెనీలు ఒత్తిడిని అనుభవిస్తున్నాయని సూచిస్తున్నాయి, ఇవి ప్రామాణికమైన దృశ్య సాక్ష్యం నుండి వేరు చేయడం కష్టం.
⚖ The Balanced View
Supporting view
వినియోగదారులు భౌగోళిక శాస్త్రంతో సృజనాత్మకతను పొందడానికి, చారిత్రక ప్రదేశాలను దృశ్యమానం చేయడానికి మరియు రియల్ ఎస్టేట్ ప్రాజెక్ట్ ప్రణాళికకు సహాయం చేయడానికి ఈ ఫీచర్ రూపొందించబడిందని Google సూచించింది.
Concerns & criticism
విమర్శకులు మరియు పరిశోధకులు ఈ సాధనాన్ని యుద్ధ-దెబ్బతిన్న సైట్లు లేదా తప్పుడు మానవతావాద సంక్షోభాల వంటి వాస్తవిక, హానికరమైన తప్పుడు సమాచారాన్ని రూపొందించడానికి సులభంగా ఉపయోగించవచ్చని నిరూపించారు, ఇది సత్యానికి మూలంగా ప్లాట్ఫారమ్ ప్రతిష్టను దెబ్బతీస్తుంది.
→What's next
ఫీచర్ను ప్లాట్ఫారమ్కు తిరిగి వచ్చే ముందు దాని కోసం బలమైన గార్డ్రైల్లను అమలు చేయడానికి ప్రస్తుతం పని చేస్తున్నట్లు Google పేర్కొంది. నానో బనానా 2 యొక్క ప్రాంప్ట్ సామర్థ్యాలను కంపెనీ గణనీయంగా పరిమితం చేస్తుందా లేదా రూపొందించిన చిత్రాల కోసం మరింత కఠినమైన ధృవీకరణ తనిఖీలను ప్రవేశపెడుతుందా అనేది అస్పష్టంగానే ఉంది.