हगिंग फेस पर साइबर हमले के बाद, जिसमें प्रतिबंधित एआई मॉडल में सीमाएं सामने आईं, तकनीकी दिग्गजों के एक गठबंधन ने साइबर रक्षा के लिए ओपन-वेट टूल को बढ़ावा देने के लिए ओपन सिक्योर एआई एलायंस का गठन किया है। समवर्ती रूप से, माइक्रोसॉफ्ट ने साइबर सुरक्षा कमजोरियों की पहचान करने और उन्हें दूर करने के लिए डिज़ाइन किए गए अपने स्वयं के लागत प्रभावी एआई मॉडल का अनावरण किया है।
एजेंटिक एआई खतरों का उदय
951 आईटी निर्णय निर्माताओं को शामिल करने वाले सीडीडब्ल्यू के एक हालिया अध्ययन में एआई-संचालित साइबर खतरों की ओर बदलाव पर प्रकाश डाला गया है, जिसे प्रबंधित करने के लिए कई संगठन वर्तमान में अपर्याप्त हैं। रिपोर्ट के अनुसार, 43% कंपनियां पहले ही एआई-संवर्धित फ़िशिंग योजनाओं से निपट चुकी हैं, जबकि 37% ने एआई-संवर्धित मैलवेयर का सामना किया है। जैसा कि सुरक्षा विशेषज्ञ अक्सर ध्यान देते हैं, उल्लंघन को संभावना के बजाय अनिवार्यता के रूप में देखा जा रहा है। इन खतरों की प्रकृति तेजी से बदल रही है; पृथक डीपफेक प्रयासों के बजाय, जिसे केवल 8% उत्तरदाताओं ने शीर्ष जोखिम के रूप में उद्धृत किया है, दुर्भावनापूर्ण अभिनेता स्वायत्त, एजेंटिक सिस्टम तैनात कर रहे हैं जो बड़े पैमाने पर कमजोरियों की खोज और शोषण कर सकते हैं। प्रतिक्रिया में, लगभग 41% कंपनियां उच्च गति, स्वचालित शोषण की इस नई लहर का मुकाबला करने के लिए एआई-आधारित खतरे का पता लगाने वाली प्रणालियों को लागू करने पर विचार कर रही हैं।
द हगिंग फेस इंसीडेंट और ओपन मॉडल्स
वर्तमान रक्षात्मक रणनीतियों की भेद्यता को हाल ही में रेखांकित किया गया था जब एआई स्टार्टअप हगिंग फेस पर एजेंट मॉडल द्वारा हमला किया गया था। घटना के दौरान, कंपनी ने पाया कि मानक यू.एस. फ्रंटियर एआई मॉडल अप्रभावी थे क्योंकि उनकी सुरक्षा रेलिंग उन्हें हमलावर की पहचान करने और उसे रोकने से रोकती थी। नतीजतन, हगिंग फेस को अपना फोरेंसिक विश्लेषण करने के लिए स्व-होस्टेड, ओपन-वेट चीनी मॉडल पर निर्भर रहना पड़ा। इस घटना ने एनवीडिया के नेतृत्व में ओपन सिक्योर एआई एलायंस के गठन के लिए उत्प्रेरक के रूप में कार्य किया। गठबंधन का तर्क है कि साइबर सुरक्षा रक्षकों को आवश्यक गति से कार्य करने के लिए, उनके पास बंद, मालिकाना प्लेटफार्मों पर निर्भर रहने के बजाय, अपने स्वयं के बुनियादी ढांचे पर उन्नत एआई सिस्टम का निरीक्षण, अनुकूलन और संचालन करने की क्षमता होनी चाहिए।
संप्रभुता और सुरक्षा के लिए प्रयास
ओपन सिक्योर एआई एलायंस का निर्माण चीनी एआई मॉडल के संबंध में बढ़ती भू-राजनीतिक बहस के साथ मेल खाता है। जबकि माइक्रोसॉफ्ट, मेटा और एनवीडिया जैसे तकनीकी दिग्गज ओपन-सोर्स पारिस्थितिकी तंत्र की वकालत कर रहे हैं, कुछ नीति निर्माता और नियामक 'आसवन' के बारे में चिंतित हैं, एक ऐसी प्रक्रिया जहां चीनी मॉडल बेहतर अमेरिकी सीमांत प्रणालियों से मालिकाना ज्ञान निकालते हैं। अमेरिकी ट्रेजरी सचिव स्कॉट बेसेंट ने पहले ही ऐसी गतिविधियों में शामिल कंपनियों के खिलाफ संभावित प्रतिबंधों का संकेत दिया है। उद्योग जगत के नेता अब सधी हुई राह पर चल रहे हैं और वाशिंगटन से समयपूर्व प्रतिबंधों से बचने का आग्रह कर रहे हैं जो नवाचार में बाधा डाल सकते हैं। उनका तर्क है कि ओपन-सोर्स समुदाय सुरक्षा के लिए आवश्यक पारदर्शिता प्रदान करता है, जबकि इन मॉडलों को सख्ती से बंद करने से कंपनियों को बुनियादी ढांचे पर भरोसा करने के लिए मजबूर होना पड़ेगा जिसे वे लाइव सुरक्षा संकट के दौरान पूरी तरह से नियंत्रित या ऑडिट नहीं कर सकते हैं।
माइक्रोसॉफ्ट की नई साइबर सुरक्षा पहल
एक समानांतर विकास में, माइक्रोसॉफ्ट ने एक नया कृत्रिम बुद्धिमत्ता मॉडल, एमएआई-साइबर-1-फ्लैश पेश किया है, जो विशेष रूप से साइबर सुरक्षा कमजोरियों का पता लगाने के लिए बनाया गया है। यह मॉडल कार्यकारी हेयेट गैलोट के तहत माइक्रोसॉफ्ट के सुरक्षा व्यवसाय को पुनर्जीवित करने के रणनीतिक प्रयास का प्रतिनिधित्व करता है। Microsoft के अनुसार, जब OpenAI के GPT-5.4 के साथ जोड़ा जाता है, तो मॉडल साइबरजिम बेंचमार्क पर एंथ्रोपिक और Google के प्रतिस्पर्धी समाधानों से बेहतर प्रदर्शन करता है। मॉडल से परे, माइक्रोसॉफ्ट 'प्रोजेक्ट परसेप्शन' शुरू कर रहा है, जो सिस्टम की कमजोरियों को खोजने और ठीक करने के लिए डिज़ाइन किया गया एआई एजेंटों का एक सूट है, जिसका सार्वजनिक पूर्वावलोकन 3 अगस्त को निर्धारित है। सीईओ मुस्तफा सुलेमान ने टूल की लागत-दक्षता पर जोर दिया, यह देखते हुए कि यह मौजूदा विकल्पों की आधी कीमत पर उच्च प्रदर्शन प्रदान करता है, संभावित रूप से कंपनियों को प्रवेश के लिए तकनीकी बाधा को कम करके अपने सुरक्षा संचालन केंद्रों (एसओसी) में बेहतर स्टाफ की अनुमति देता है।
⚖ The Balanced View
Supporting view
एनवीडिया और माइक्रोसॉफ्ट समेत ओपन-वेट मॉडल के समर्थकों का तर्क है कि वे रक्षा के लिए आवश्यक हैं क्योंकि वे कंपनियों को कठोर रेलिंग के हस्तक्षेप के बिना सिस्टम का निरीक्षण और स्वयं-होस्ट करने की अनुमति देते हैं जो सक्रिय हमले के दौरान प्रतिक्रिया समय में बाधा डालते हैं।
Concerns & criticism
चीनी कंपनियों द्वारा 'आसवन' के लिए खुले मॉडल का उपयोग करने की संभावना के बारे में सरकारी अधिकारियों और नीति विश्लेषकों की ओर से महत्वपूर्ण चिंता है - अमेरिकी सीमांत मॉडल से आईपी की चोरी - जिसके कारण संभावित सरकार द्वारा लगाए गए प्रतिबंध या विशिष्ट एआई-संबंधित लेनदेन पर प्रतिबंध लग सकता है।
→What's next
उम्मीद है कि ओपन सिक्योर एआई एलायंस खुली प्रौद्योगिकियों का उपयोग करके कमजोरियों के प्रकटीकरण और निवारण पर काम करना शुरू कर देगा। इस बीच, उद्योग बारीकी से निगरानी करेगा कि अमेरिकी सरकार चीनी-विकसित एआई मॉडल के उपयोग या होस्टिंग पर औपचारिक प्रतिबंध लागू करती है या नहीं।