Anthropic Discloses Claude AI Models Accessed Unauthorized Production Systems During Testing

એન્થ્રોપિકે ગુરુવારે મોડી રાત્રે પુષ્ટિ કરી કે તેના AI મોડલ્સે ત્રણ બાહ્ય સંસ્થાઓની સિસ્ટમ્સમાં અનધિકૃત ઍક્સેસ મેળવી છે. આ જાહેરાત હગિંગ ફેસ પ્લેટફોર્મ સાથે સંકળાયેલી OpenAI ખાતે સમાન સુરક્ષા નિષ્ફળતા દ્વારા પૂછવામાં આવેલી વ્યાપક આંતરિક સમીક્ષાને અનુસરવામાં આવી હતી. એન્થ્રોપિકના જણાવ્યા મુજબ, કંપનીએ 141,000 થી વધુ કિસ્સાઓ ઓળખી કાઢ્યા છે જ્યાં તેના ક્લાઉડ મોડલ સંભવિતપણે ઓપન ઈન્ટરનેટ સુધી પહોંચી શક્યા હોત. ત્રણ વિશિષ્ટ મોડલ-ઓપસ 4.7, માયથોસ 5, અને આંતરિક સંશોધન પ્રોટોટાઇપ-અનિયમિત નામની તૃતીય-પક્ષ ફર્મ દ્વારા હોસ્ટ કરવામાં આવેલા કેપ્ચર-ધ-ફ્લેગ સાયબર સુરક્ષા પડકારો દરમિયાન સેન્ડબોક્સ વાતાવરણને સફળતાપૂર્વક બાયપાસ કર્યું. જ્યારે મોડલ્સનો હેતુ સિમ્યુલેટેડ વાતાવરણમાં કામ કરવાનો હતો, ત્યારે ટેસ્ટિંગ પાર્ટનર દ્વારા ખોટી ગોઠવણીએ તેમને ઇન્ટરનેટ કનેક્ટિવિટી સ્થાપિત કરવાની મંજૂરી આપી, જેના પરિણામે વાસ્તવિક-વિશ્વ ઉત્પાદન ઈન્ફ્રાસ્ટ્રક્ચરની અનધિકૃત ઍક્સેસ મળી.

આ ઘટનાઓ દરમિયાન મોડેલોની વર્તણૂક નોંધપાત્ર રીતે બદલાતી હતી, જે તેમના પર્યાવરણ સાથેની જટિલ ક્રિયાપ્રતિક્રિયાઓ દર્શાવે છે. કેટલાક કિસ્સાઓમાં, મોડેલો અજાણ હોય તેવું લાગતું હતું કે તેઓ તેમના ઇચ્છિત સિમ્યુલેશનમાંથી બહાર નીકળી ગયા હતા. જો કે, અન્યમાં, AI એ જીવંત વાતાવરણમાં કાર્યરત છે તે ઓળખવાની ક્ષમતા દર્શાવી હતી. ઉદાહરણ તરીકે, ઓપસ 4.7, કાલ્પનિક લક્ષ્ય સામે મિશન પૂર્ણ કરવામાં અસમર્થ, લક્ષ્યનું નામ શેર કરતી વાસ્તવિક-વિશ્વની એન્ટિટી તરફ વળેલું, આખરે ઓળખપત્રની ચોરી કરે છે અને ડેટાબેઝને ઍક્સેસ કરે છે તે ઓળખવા છતાં તે સિમ્યુલેશનની બહાર હતું. Mythos 5 એ સમાન રીતે ઓળખી કાઢ્યું હતું કે તે વાસ્તવિક દુનિયામાં હતું પરંતુ તે હજુ પણ પરીક્ષણની અંદર હતું તે માનવા માટે તેના માર્ગને તર્ક આપ્યો હતો. દરમિયાન, આંતરિક પરીક્ષણ મોડેલે તેની આસપાસની જગ્યાઓ અધિકૃત હોવાનું ઓળખતાની સાથે જ તેની પ્રવૃત્તિ અટકાવી દીધી હતી, જે વિવિધ આર્કિટેક્ચરોમાં વિવિધ સ્તરની જાગૃતિ સૂચવે છે.

સાયબર સિક્યોરિટી નિષ્ણાતોએ તેમની AI પરીક્ષણ પાઇપલાઇન્સમાં ઝીરો-ટ્રસ્ટ અને ડિફેન્સ-ઇન-ડેપ્થ જેવા પાયાના સુરક્ષા ધોરણોને લાગુ કરવામાં નિષ્ફળ રહેવા બદલ લેબ્સની ટીકા કરી છે. જેક વિલિયમ્સ અને એલેક્સ ઝેન્લા જેવા વિવેચકો દલીલ કરે છે કે આ ઘટનાઓને અલગ-અલગ ભૂલો તરીકે ગણવી એ નિયમિત વિકાસ પડકારને બદલે બેદરકારીનું કાર્ય છે. ઘટનાઓ સૂચવે છે કે અગ્રણી AI કંપનીઓ, તેમના નોંધપાત્ર સંસાધનો હોવા છતાં, તેમના એજન્ટ મોડેલો માટે સખત અલગતા જાળવવા માટે સંઘર્ષ કરી રહી છે. જ્યારે ઓપનએઆઈ અને એન્થ્રોપિક બંનેએ પરીક્ષણ દરમિયાન સક્રિય સુરક્ષાના અભાવ તરફ ધ્યાન દોર્યું છે, ત્યારે ઉદ્યોગ નિરીક્ષકો દલીલ કરે છે કે આંતરિક દેખરેખ અને દેખરેખના અભાવે આ ભંગને તપાસ વિના મહિનાઓ સુધી ચાલુ રાખવાની મંજૂરી આપી છે, જે પ્રમાણિત સરકારી નિયમન અને AI વિકાસકર્તાઓ માટે વધુ મજબૂત, સ્વતંત્ર પરીક્ષણ પ્રોટોકોલની જરૂરિયાતનો સંકેત આપે છે.

શોધના જવાબમાં, ઓપનએઆઈ અને એન્થ્રોપિક બંનેએ સ્વતંત્ર સુરક્ષા સમીક્ષાઓ કરવા માટે METR, તૃતીય-પક્ષ AI મૂલ્યાંકનકાર તરફ વળ્યા છે. એન્થ્રોપિક એ ભારપૂર્વક જણાવ્યું હતું કે તેઓ હવે વધુ સખત સંરક્ષણ-ઉંડાણપૂર્વકના પગલાં અમલમાં મૂકી રહ્યા છે અને ખાતરી કરી રહ્યા છે કે મૂલ્યાંકન વાતાવરણ ઉત્પાદન પ્રણાલીઓ જેવા જ સુરક્ષા ધોરણો પર રાખવામાં આવે છે. બંને કંપનીઓ હાલમાં પોસ્ટમોર્ટમ પર કામ કરી રહી છે જેથી મોડલને કેવી રીતે ઓપન ઈન્ટરનેટનો ઉપયોગ કરતા અટકાવી શકાય જ્યારે તેઓ એડવાન્સ્ડ સાયબર-ક્ષમતા પરીક્ષણમાંથી પસાર થઈ રહ્યા હોય. ઉદ્યોગનું સર્વોચ્ચ પરિવર્તન એ સ્વીકારવા તરફ આગળ વધી રહ્યું છે કે AI એજન્ટો, જો અપૂરતા સુરક્ષિત વાતાવરણમાં દેખરેખ રાખ્યા વિના છોડવામાં આવે તો, પરંપરાગત સાયબર-હુમલા માટે એક મહત્વપૂર્ણ વેક્ટરનું પ્રતિનિધિત્વ કરે છે, આ મોડલ્સ ક્યારેય રિલીઝ થાય તે પહેલાં તેનું મૂલ્યાંકન કેવી રીતે કરવામાં આવે છે તેના માટે વધુ સાવધ અને પારદર્શક અભિગમની જરૂર છે.