Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

CDW ने 951 IT निर्णय-निर्मात्यांचा समावेश केलेला अलीकडील अभ्यास एआय-चालित सायबर धोक्यांकडे वळला आहे ज्याचे व्यवस्थापन करण्यासाठी सध्या बऱ्याच संस्था सुसज्ज नाहीत. अहवालानुसार, 43% कंपन्यांनी आधीच AI-वर्धित फिशिंग योजनांचा सामना केला आहे, तर 37% कंपन्यांनी AI-वर्धित मालवेअरचा सामना केला आहे. सुरक्षा तज्ज्ञांनी अनेकदा लक्षात घेतल्याप्रमाणे, उल्लंघनाला संभाव्यतेऐवजी अपरिहार्यता म्हणून पाहिले जाते. या धोक्यांचे स्वरूप झपाट्याने बदलत आहे; एकाकी डीपफेक प्रयत्नांऐवजी, ज्याला केवळ 8% प्रतिसादकर्त्यांनी उच्च जोखीम म्हणून उद्धृत केले आहे, दुर्भावनापूर्ण अभिनेते स्वायत्त, एजंटिक प्रणाली तैनात करत आहेत जे मोठ्या प्रमाणात भेद्यता शोधू शकतात आणि त्यांचे शोषण करू शकतात. प्रतिसादात, अंदाजे 41% कंपन्या हाय-स्पीड, स्वयंचलित शोषणाच्या या नवीन लाटेचा सामना करण्यासाठी AI-आधारित धोका शोध प्रणाली लागू करण्याचा विचार करत आहेत.

एआय स्टार्टअप हगिंग फेसवर एजंटिक मॉडेल्सने हल्ला केला तेव्हा सध्याच्या बचावात्मक रणनीतींची असुरक्षा अधोरेखित झाली. घटनेदरम्यान, कंपनीने शोधून काढले की मानक यू.एस. फ्रंटियर एआय मॉडेल्स कुचकामी आहेत कारण त्यांच्या सुरक्षा रेलिंगने त्यांना आक्रमक ओळखण्यास आणि अवरोधित करण्यापासून प्रतिबंधित केले. परिणामी, हगिंग फेसला त्याचे फॉरेन्सिक विश्लेषण करण्यासाठी स्व-होस्ट केलेल्या, ओपन-वेट चीनी मॉडेलवर अवलंबून राहावे लागले. या कार्यक्रमाने Nvidia च्या नेतृत्वाखाली ओपन सिक्युअर एआय अलायन्सच्या निर्मितीसाठी उत्प्रेरक म्हणून काम केले. युतीचा असा युक्तिवाद आहे की सायबरसुरक्षा रक्षकांना आवश्यक गतीने कार्य करण्यासाठी, त्यांच्याकडे बंद, मालकीच्या प्लॅटफॉर्मकडे पाहण्याऐवजी त्यांच्या स्वतःच्या पायाभूत सुविधांवर प्रगत AI सिस्टमची तपासणी, जुळवून घेण्याची आणि ऑपरेट करण्याची क्षमता असणे आवश्यक आहे.

ओपन सिक्युअर एआय अलायन्सची निर्मिती चीनी एआय मॉडेल्सच्या वाढत्या भौगोलिक राजकीय वादाशी एकरूप आहे. मायक्रोसॉफ्ट, मेटा आणि एनव्हीडिया सारख्या टेक दिग्गज ओपन-सोर्स इकोसिस्टमची वकिली करत असताना, काही धोरणकर्ते आणि नियामक 'डिस्टिलेशन' बद्दल चिंतित आहेत, ही अशी प्रक्रिया आहे जिथे चीनी मॉडेल्स उत्कृष्ट यू.एस. फ्रंटियर सिस्टम्समधून मालकीचे ज्ञान काढतात. यूएस ट्रेझरी सेक्रेटरी स्कॉट बेसेंट यांनी आधीच अशा क्रियाकलापांमध्ये गुंतलेल्या कंपन्यांवर संभाव्य निर्बंधांचे संकेत दिले आहेत. नवोन्मेषाला बाधा आणणारे अकाली निर्बंध टाळण्याचे वॉशिंग्टनला आवाहन करून उद्योग नेते आता घट्ट मार्गावर चालत आहेत. त्यांचा असा युक्तिवाद आहे की मुक्त-स्रोत समुदाय सुरक्षिततेसाठी आवश्यक पारदर्शकता प्रदान करतो, तर हे मॉडेल काटेकोरपणे बंद केल्याने कंपन्यांना अशा पायाभूत सुविधांवर अवलंबून राहण्यास भाग पाडले जाईल की ते थेट सुरक्षा संकटाच्या वेळी पूर्णपणे नियंत्रित किंवा ऑडिट करू शकत नाहीत.

समांतर विकासामध्ये, मायक्रोसॉफ्टने एक नवीन कृत्रिम बुद्धिमत्ता मॉडेल, MAI-Cyber-1-Flash सादर केले आहे, विशेषत: सायबर सुरक्षा भेद्यता शोधण्यासाठी तयार केले आहे. हे मॉडेल कार्यकारी Hayete Gallot अंतर्गत Microsoft च्या सुरक्षा व्यवसायाचे पुनरुज्जीवन करण्याच्या धोरणात्मक प्रयत्नांचे प्रतिनिधित्व करते. मायक्रोसॉफ्टच्या म्हणण्यानुसार, OpenAI च्या GPT-5.4 सह पेअर केल्यावर, मॉडेल सायबरजिम बेंचमार्कवर अँथ्रोपिक आणि गुगलच्या प्रतिस्पर्धी सोल्यूशन्सला मागे टाकते. मॉडेलच्या पलीकडे, मायक्रोसॉफ्ट 'प्रोजेक्ट परसेप्शन' आणत आहे, AI एजंट्सचा एक संच, सिस्टम कमकुवतपणा शोधण्यासाठी आणि दुरुस्त करण्यासाठी डिझाइन केलेले, सार्वजनिक पूर्वावलोकन 3 ऑगस्टला शेड्यूल केले आहे. सीईओ मुस्तफा सुलेमान यांनी साधनाच्या किमती-कार्यक्षमतेवर जोर दिला, हे लक्षात घेतले की ते विद्यमान पर्यायांच्या निम्म्या किमतीत उच्च कार्यप्रदर्शन वितरीत करते, त्यांच्या कर्मचाऱ्यांना केंद्र सरकारची सुरक्षा कमी करते (संभाव्यत: कमी कर्मचारी केंद्र) प्रवेशासाठी तांत्रिक अडथळा.