Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

CDW દ્વારા 951 IT નિર્ણય નિર્માતાઓને સંડોવતા તાજેતરના અભ્યાસમાં એઆઈ-સંચાલિત સાયબર ધમકીઓ તરફના પરિવર્તનને હાઈલાઈટ કરે છે જેનું સંચાલન કરવા માટે હાલમાં ઘણી સંસ્થાઓ અયોગ્ય છે. રિપોર્ટ અનુસાર, 43% કંપનીઓએ પહેલેથી જ AI-એન્હાન્સ્ડ ફિશિંગ સ્કીમ્સ સાથે વ્યવહાર કર્યો છે, જ્યારે 37% કંપનીઓએ AI-વૃદ્ધ માલવેરનો સામનો કર્યો છે. સુરક્ષા નિષ્ણાતો વારંવાર નોંધે છે તેમ, ઉલ્લંઘનને શક્યતાને બદલે અનિવાર્યતા તરીકે જોવામાં આવે છે. આ ધમકીઓની પ્રકૃતિ ઝડપથી બદલાઈ રહી છે; અલગ અલગ ડીપફેક પ્રયાસોને બદલે, જેને માત્ર 8% ઉત્તરદાતાઓએ ટોચના જોખમ તરીકે ટાંક્યા છે, દૂષિત અભિનેતાઓ સ્વાયત્ત, એજન્ટિક સિસ્ટમો જમાવી રહ્યા છે જે સ્કેલ પર નબળાઈઓને શોધી અને તેનું શોષણ કરી શકે છે. જવાબમાં, આશરે 41% કંપનીઓ હાઇ-સ્પીડ, સ્વચાલિત શોષણની આ નવી તરંગનો સામનો કરવા માટે AI-આધારિત ધમકી શોધ પ્રણાલીને અમલમાં મૂકવાનું વિચારી રહી છે.

વર્તમાન રક્ષણાત્મક વ્યૂહરચનાઓની નબળાઈને તાજેતરમાં અન્ડરસ્કોર કરવામાં આવી હતી જ્યારે AI સ્ટાર્ટઅપ હગિંગ ફેસ પર એજન્ટિક મોડલ્સ દ્વારા હુમલો કરવામાં આવ્યો હતો. આ ઘટના દરમિયાન, કંપનીએ શોધ્યું કે પ્રમાણભૂત યુએસ ફ્રન્ટિયર AI મોડલ બિનઅસરકારક હતા કારણ કે તેમના સુરક્ષા રક્ષકો તેમને આક્રમકને ઓળખવા અને અવરોધિત કરતા અટકાવતા હતા. પરિણામે, હગિંગ ફેસને તેનું ફોરેન્સિક વિશ્લેષણ કરવા માટે સ્વ-હોસ્ટેડ, ઓપન-વેઇટ ચાઇનીઝ મોડેલ પર આધાર રાખવો પડ્યો. આ ઘટનાએ Nvidia દ્વારા આગેવાની હેઠળના ઓપન સિક્યોર AI એલાયન્સની રચના માટે ઉત્પ્રેરક તરીકે સેવા આપી હતી. જોડાણ એવી દલીલ કરે છે કે સાયબર સિક્યુરિટી ડિફેન્ડર્સ માટે જરૂરી ઝડપ સાથે કાર્ય કરવા માટે, તેમની પાસે બંધ, માલિકીનાં પ્લેટફોર્મ પર નજર રાખવાને બદલે તેમના પોતાના ઈન્ફ્રાસ્ટ્રક્ચર પર અદ્યતન AI સિસ્ટમ્સનું નિરીક્ષણ, અનુકૂલન અને સંચાલન કરવાની ક્ષમતા હોવી જોઈએ.

ઓપન સિક્યોર AI એલાયન્સની રચના ચાઈનીઝ AI મોડલ્સને લઈને વધતી જતી ભૌગોલિક રાજકીય ચર્ચા સાથે એકરુપ છે. જ્યારે માઇક્રોસોફ્ટ, મેટા અને એનવીડિયા જેવા ટેક જાયન્ટ્સ ઓપન-સોર્સ ઇકોસિસ્ટમ માટે હિમાયત કરી રહ્યાં છે, ત્યારે કેટલાક નીતિ નિર્માતાઓ અને નિયમનકારો 'નિસ્યંદન' વિશે ચિંતિત છે, એક પ્રક્રિયા જ્યાં ચાઇનીઝ મોડલ શ્રેષ્ઠ યુએસ ફ્રન્ટિયર સિસ્ટમ્સમાંથી માલિકીનું જ્ઞાન મેળવે છે. યુ.એસ. ટ્રેઝરી સેક્રેટરી સ્કોટ બેસેન્ટ પહેલેથી જ આવી પ્રવૃત્તિઓમાં સામેલ કંપનીઓ સામે સંભવિત પ્રતિબંધો અંગે સંકેત આપી ચૂક્યા છે. ઉદ્યોગના આગેવાનો હવે એક ચુસ્ત માર્ગે ચાલી રહ્યા છે, વોશિંગ્ટનને અકાળ પ્રતિબંધો ટાળવા વિનંતી કરે છે જે નવીનતાને અવરોધે છે. તેઓ દલીલ કરે છે કે ઓપન-સોર્સ સમુદાય સુરક્ષા માટે જરૂરી પારદર્શિતા પૂરી પાડે છે, જ્યારે આ મોડલ્સને સખત રીતે બંધ કરવાથી કંપનીઓને ઈન્ફ્રાસ્ટ્રક્ચર પર આધાર રાખવાની ફરજ પડશે કે તેઓ જીવંત સુરક્ષા કટોકટી દરમિયાન સંપૂર્ણ નિયંત્રણ અથવા ઑડિટ કરી શકતા નથી.

સમાંતર વિકાસમાં, માઇક્રોસોફ્ટે એક નવું આર્ટિફિશિયલ ઇન્ટેલિજન્સ મોડલ, MAI-Cyber-1-Flash રજૂ કર્યું છે, જે ખાસ કરીને સાયબર સુરક્ષા નબળાઈઓને શોધવા માટે બનાવવામાં આવ્યું છે. આ મોડેલ એક્ઝિક્યુટિવ હૈયેટ ગેલોટ હેઠળ માઇક્રોસોફ્ટના સુરક્ષા વ્યવસાયને પુનર્જીવિત કરવાના વ્યૂહાત્મક પ્રયાસનું પ્રતિનિધિત્વ કરે છે. માઈક્રોસોફ્ટના જણાવ્યા મુજબ, જ્યારે OpenAI ના GPT-5.4 સાથે જોડી બનાવવામાં આવે છે, ત્યારે મોડલ સાયબરજીમ બેન્ચમાર્ક પર એન્થ્રોપિક અને ગૂગલના સ્પર્ધાત્મક ઉકેલોને પાછળ રાખી દે છે. મૉડલ ઉપરાંત, માઈક્રોસોફ્ટ 'પ્રોજેક્ટ પર્સેપ્શન' રજૂ કરી રહ્યું છે, જે 3 ઑગસ્ટના રોજ સુનિશ્ચિત થયેલ જાહેર પૂર્વાવલોકન સાથે, સિસ્ટમની નબળાઈઓ શોધવા અને સુધારવા માટે રચાયેલ AI એજન્ટોનો સમૂહ છે. CEO મુસ્તફા સુલેમાને ટૂલની કિંમત-કાર્યક્ષમતા પર ભાર મૂક્યો છે, નોંધ્યું છે કે તે હાલના વિકલ્પોની અડધા કિંમતે ઉચ્ચ પ્રદર્શન આપે છે, સંભવિત રૂપે તેમની ઓપરેટર કંપનીઓને નીચી સુરક્ષાની મંજૂરી આપે છે. પ્રવેશ માટે તકનીકી અવરોધ.