Nvidia आणि 27 टेक कंपन्यांच्या युतीने मुक्त-स्रोत संरक्षणात्मक सायबरसुरक्षा साधने विकसित करण्यासाठी Open Secure AI अलायन्सची स्थापना केली आहे. हा गट हगिंग फेसवरील अलीकडील रॉग हल्ल्यासारख्या भविष्यातील घटनांपासून व्यवसायांचे संरक्षण करण्याचा प्रयत्न करतो, जेथे बंद व्यावसायिक मॉडेल्स कंपनीच्या संरक्षणात मदत करण्यात अयशस्वी ठरले.
ओपन सिक्युअर एआय अलायन्सचा शुभारंभ
कृत्रिम बुद्धिमत्तेच्या युगात सायबरसुरक्षेला आकार देण्याच्या धोरणात्मक हालचालीमध्ये, Nvidia ने Open Secure AI अलायन्सच्या निर्मितीचे नेतृत्व केले आहे. ही युती 27 प्रभावशाली तंत्रज्ञान संस्थांना एकत्र आणते, ज्यात Microsoft, Dell, SpaceX, The Linux Foundation आणि IBM सारख्या प्रमुख खेळाडूंचा समावेश आहे. Linux फाउंडेशनच्या Akrites पुढाकार आणि OpenSSF समुदायाच्या पायाभूत प्रयत्नांवर आधारित, विद्यमान मुक्त-स्रोत फ्रेमवर्कचा फायदा घेण्यासाठी युतीची रचना केली गेली आहे. युतीचे प्राथमिक उद्दिष्ट सॉफ्टवेअर असुरक्षा उघड करण्यासाठी आणि त्यावर उपाय करण्यासाठी अधिक प्रभावी, सहयोगी पद्धती स्थापित करणे आहे. संसाधने आणि कौशल्ये एकत्र करून, समूहाचे उद्दिष्ट आहे की संघटनांना वाढत्या गुंतागुंतीच्या डिजिटल धोक्याच्या लँडस्केपमध्ये नेव्हिगेट करण्यासाठी आवश्यक संरक्षणात्मक साधने प्रदान करणे जिथे पारंपारिक, बंद-स्रोत सुरक्षा उपाय गंभीर प्रतिसाद प्रयत्नांदरम्यान अपुरे किंवा जास्त प्रतिबंधात्मक सिद्ध होऊ शकतात.
द हगिंग फेस घटना आणि मॉडेल मर्यादा
या युतीची निर्मिती स्टार्टअप हगिंग फेसचा समावेश असलेल्या एका महत्त्वपूर्ण सुरक्षा घटनेने थेट उत्प्रेरित केली होती, ज्याला एका बदमाश सायबर हल्ल्याचा सामना करावा लागला. जेव्हा Hugging Face ने अग्रगण्य व्यावसायिक, क्लोज-सोर्स फ्रंटियर AI मॉडेल्सचा अनधिकृत क्रियाकलाप शोधण्यासाठी आणि ते दूर करण्यासाठी वापरण्याचा प्रयत्न केला, तेव्हा असे आढळले की मॉडेल्सच्या सुरक्षा रेलिंगमुळे ते कुचकामी ठरले. या प्रणाली आक्रमणकर्ता आणि बचावकर्ता यांच्यात फरक करू शकत नसल्यामुळे, प्लॅटफॉर्मच्या फॉरेन्सिक विश्लेषणाच्या विनंत्या वारंवार नाकारल्या गेल्या. यामुळे अभियांत्रिकी संघाला सेल्फ-होस्टेड, ओपन-वेट मॉडेल्स, विशेषत: GLM 5.2 सिस्टीमकडे जाण्यास भाग पाडले. हा खुला पर्याय स्वतःच्या पायाभूत सुविधांवर चालवून, हगिंग फेसने 17,000 हून अधिक भिन्न क्रियांचे यशस्वीपणे विश्लेषण केले आणि त्यात घुसखोरी केली. या अनुभवाने युतीचे सदस्य व्यावहारिक सत्य म्हणून काय वर्णन करतात यावर प्रकाश टाकला: जेव्हा बचावकर्त्यांकडे AI सॉफ्टवेअरची तपासणी करण्याची आणि त्यांच्या स्वतःच्या अटींवर अनुकूल करण्याची क्षमता नसते, तेव्हा उच्च-स्टेक आणीबाणीच्या वेळी प्रतिसाद देण्याची त्यांची क्षमता गंभीरपणे बाधित होते.
योगदान आणि सहयोगी उद्दिष्टे
युतीच्या संस्थापक सदस्यांनी इकोसिस्टमला चालना देण्यासाठी विशेष मालमत्तेचे योगदान देण्यास वचनबद्ध केले आहे. Nvidia प्रगत सायबरसुरक्षा साधनांच्या निर्मितीला गती देण्यासाठी डिझाइन केलेले खुले मॉडेल, सर्वसमावेशक वजन, डेटासेट आणि नवीन एजंट हार्नेस प्रदान करत आहे. Hewlett Packard Enterprise (HPE) ला AI एजंट्स आणि सेवांचे क्रिप्टोग्राफिक पडताळणी सुलभ करण्यासाठी मानके विकसित करण्याचे काम सोपवण्यात आले आहे, ज्यामुळे स्वयंचलित प्रणालींमध्ये अधिक विश्वास आणि उत्तरदायित्व सुनिश्चित होईल. शिवाय, हगिंग फेस सेफटेन्सर्सचे योगदान देत आहे, हे सुरक्षित स्वरूप विशेषतः AI मॉडेलचे वजन साठवण्यासाठी तयार केले आहे. युती सक्रियपणे सरकारांना ओपन एआय पायाभूत सुविधांना दायित्वाऐवजी राष्ट्रीय संरक्षणात्मक मालमत्ता मानण्यासाठी आवाहन करत आहे. त्यांचा असा युक्तिवाद आहे की ओपन-वेट फ्रंटियर मॉडेल्सवर ब्लँकेट निर्बंध लादणे प्रतिउत्पादक असेल, प्रभावीपणे संरक्षणात्मक क्षमता मर्यादित करते आणि मालकीच्या AI प्रदात्यांच्या छोट्या गटामध्ये लक्षणीय शक्ती केंद्रित करते जे उद्योगाच्या व्यापक सुरक्षा गरजा पूर्ण करू शकत नाहीत.
नियामक तणाव आणि चीनी AI मॉडेल
वॉशिंग्टनमध्ये चिनी-विकसित एआय मॉडेल्सच्या भूमिकेबद्दल व्यापक, तीव्र वादविवाद दरम्यान हा उपक्रम आला. सध्या, ट्रम्प प्रशासन आणि विविध कायदेकर्ते या मॉडेल्सवर कठोर बंदी किंवा मर्यादा घालण्याचा विचार करत आहेत, जे बहुतेक वेळा त्यांच्या अमेरिकन समकक्षांपेक्षा खुले वजन आणि स्वस्त असतात. बौद्धिक मालमत्तेची चोरी आणि 'डिस्टिलेशन' हल्ल्यांबद्दल टीकाकार चिंता व्यक्त करत असताना-जेथे मॉडेल अधिक अत्याधुनिक प्रणालींमधून संवेदनशील ज्ञान काढण्यासाठी वापरले जातात-नवीन युतीच्या सदस्यांना काळजी वाटते की अशा उपायांमुळे देशांतर्गत नवकल्पना कमी होऊ शकते. Nvidia, Microsoft, Meta आणि इतरांनी स्वाक्षरी केलेले अलीकडील पत्र चेतावणी देते की ओपन-वेट सिस्टमवरील अकाली निर्बंधांमुळे परदेशात विकासाचा धोका असतो. कौन्सिल ऑन फॉरेन रिलेशन्स मधील ख्रिस मॅकगुयर सारख्या तज्ञांनी नोंदवले की वादविवाद राष्ट्रीय सुरक्षेकडे वळत आहे, खुल्या आणि बंद प्रणालींमधील अंतर्निहित वैचारिक लढाईऐवजी चिनी IP चोरी रोखण्यावर केंद्रित आहे. युती चिंतित आहे, तथापि, नियामक परिणामामुळे अनवधानाने जागतिक मुक्त-स्रोत समुदायाचे नुकसान होऊ शकते.
⚖ The Balanced View
Supporting view
Nvidia आणि Microsoft समवेत समर्थकांचा असा युक्तिवाद आहे की खुली मॉडेल्स ही अत्यावश्यक संरक्षणात्मक मालमत्ता आहेत, कारण ते संस्थांना तृतीय-पक्ष रेलिंगद्वारे अवरोधित न करता धमक्यांना प्रतिसाद देण्यासाठी स्थानिक पातळीवर सिस्टमची तपासणी, सुधारित आणि होस्ट करण्याची परवानगी देतात.
Concerns & criticism
धोरणकर्ते आणि राष्ट्रीय सुरक्षा तज्ञ चिनी-निर्मित ओपन-सोर्स मॉडेल्सच्या वाढीबद्दल चिंता व्यक्त करतात, त्यांना भीती वाटते की त्यांचा बौद्धिक मालमत्तेच्या चोरीसाठी वापर केला जाऊ शकतो किंवा परदेशी कलाकारांना प्रगत यूएस तंत्रज्ञानातून बुद्धिमत्ता काढण्यासाठी वाहन प्रदान केले जाऊ शकते.
→What's next
ओपन सिक्योर एआय अलायन्स सामायिक ओपन एआय इन्फ्रास्ट्रक्चरमध्ये गुंतवणुकीला प्रोत्साहन देण्यासाठी सरकारांशी समन्वय साधण्याचा मानस आहे. त्याच बरोबर, ओपन-वेट फ्रंटियर मॉडेल्सची उपलब्धता आणि विकास प्रतिबंधित करू शकणारे कायदे टाळण्यासाठी हा गट धोरणकर्त्यांची लॉबी सुरू ठेवेल.