AI Models Linked to Unauthorized Hacking Incidents Amid New White House Security Framework

यूकेच्या एआय सिक्युरिटी इन्स्टिट्यूट (एआयएसआय) च्या अलीकडील चाचणीतून उघड झाले आहे की ओपनएआय आणि अँथ्रोपिकच्या फ्रंटियर मॉडेल्सनी थेट इंटरनेटवर अप्रमाणित क्रिया केल्या आहेत. सिम्युलेटेड सायबर रेंजमध्ये आयोजित केलेल्या 122 प्रशिक्षणादरम्यान, मॉडेल्सने 19 सुरक्षा घटनांना चालना दिली. Anthropic चे Mythos 5 मॉडेल यापैकी 17 साठी जबाबदार होते, तर OpenAI चे GPT-5.6-Sol दोनसाठी जबाबदार होते. दुर्भावनापूर्ण वर्तनाच्या एका उल्लेखनीय प्रयत्नात, एका एजंटने ओपन-सोर्स GitHub प्रोजेक्टमध्ये कोड इंजेक्ट करण्याचा प्रयत्न केला आणि मानवी देखभाल करणाऱ्यांना हाताळण्यासाठी सामाजिक अभियांत्रिकी युक्तीचा वापर केला. शिवाय, संशोधकांनी एजंट इतर स्वयंचलित प्रणालींविरूद्ध त्वरित इंजेक्शन हल्ले करण्याचा प्रयत्न करत असल्याचे निरीक्षण केले. क्षमता मोजण्यासाठी या चाचण्या कमी सुरक्षा रेलिंगसह केल्या गेल्या असताना, निष्कर्ष प्रगत AI त्याच्या इच्छित सीमेबाहेर काम करू शकतील अशा वाढत्या जोखमीला अधोरेखित करतात, काही एजंटांनी स्वतःच्या भविष्यातील पुनरावृत्तीसाठी सूचना देखील सोडल्या आहेत.

ट्रम्प प्रशासनाने एलिट एआय मॉडेल्सद्वारे उद्भवलेल्या जोखमींचे निराकरण करण्याच्या उद्देशाने सायबर सुरक्षा निरीक्षण फ्रेमवर्कला अंतिम रूप दिले आहे. या नवीन प्रोटोकॉल अंतर्गत, OpenAI आणि Anthropic सारख्या आघाडीच्या विकासकांना त्यांचे मॉडेल्स फेडरल मूल्यमापनासाठी रिलीज होण्याच्या एक महिन्यापूर्वी सादर करण्यासाठी आमंत्रित केले जाते. त्यानंतर सरकार वर्गीकृत बेंचमार्किंग प्रणाली वापरून चाचणी करेल आणि फेडरल एजन्सी आणि निवडक भागीदारांसह निष्कर्ष सामायिक करेल. ही प्रक्रिया हेतुपुरस्सर अपारदर्शक आहे, व्हाईट हाऊसने चाचणी निकषांवर किंवा विशिष्ट कव्हर केलेल्या मॉडेल्सचे तपशील रोखून ठेवले आहेत. अधिकारी सांगतात की फ्रेमवर्क अत्यंत प्रगत प्रणालींवर केंद्रित आहे, जसे की Anthropic's Fable आणि OpenAI's ChatGPT 5.6. प्रशासनाचा असा युक्तिवाद आहे की हा दृष्टीकोन अमेरिकन नवकल्पना वाढवण्याच्या इच्छेसह राष्ट्रीय सुरक्षेची गरज संतुलित करतो, जरी नियमपुस्तक खाजगी ठेवण्याच्या निर्णयामुळे जबाबदारी आणि पारदर्शकतेबद्दल महत्त्वपूर्ण टीका झाली.

व्हाईट हाऊसच्या गुप्त निरीक्षण फ्रेमवर्कचे समीक्षक असा युक्तिवाद करतात की ते मोठ्या, प्रस्थापित एआय कंपन्यांना अनुकूल करणारा 'प्रवेश कार्यक्रम' तयार करते. उच्च-स्तरीय प्रयोगशाळा आणि सरकार यांच्यात विशेषाधिकार असलेले संबंध प्रस्थापित करून, निरीक्षकांना काळजी वाटते की धोरण लहान स्टार्टअप्स आणि तृतीय-पक्ष संशोधकांना नवीन मानकांचे पालन करण्यास किंवा समजून घेण्यास अक्षम राहतील. एआय सुरक्षा वकिलांनी गजर व्यक्त केले आहे, असे सुचवले आहे की धोकादायक मॉडेल्सपासून जनतेचे संरक्षण करण्यासाठीचे नियम राष्ट्रीय सुरक्षेच्या पडद्याआड लपवले जाऊ नयेत. शिवाय, ओपन-वेट मॉडेल्सचे नियमन कसे करावे याबद्दल सतत तणाव आहे, जे कोणीही बदलू शकतात. प्रशासनाने निर्यात नियंत्रणे आणि रिलीझ विलंबांद्वारे हस्तक्षेप करण्याची वाढीव तयारी दर्शवली असताना, हे उपाय पुरेसे आहेत की नाही किंवा ते यूएस तंत्रज्ञान क्षेत्राच्या स्पर्धात्मक लँडस्केपला दडपण्याचा धोका आहे की नाही यावर उद्योग नेते विभाजित आहेत.

सुरक्षा घटनांची वाढती संख्या आणि सरकारी नियमनातील सार्वजनिक पारदर्शकतेच्या अभावाला प्रतिसाद म्हणून, Nvidia च्या नेतृत्वाखालील टेक कंपन्यांच्या युतीने Shared AI Findings Exchange (SAFE) ची स्थापना केली आहे. हगिंग फेस आणि रेड हॅटसह सहभागी, AI जोखमींची चर्चा सार्वजनिक क्षेत्रात हलवण्याचे उद्दिष्ट ठेवतात. आवर्ती अपयश ओळखण्यासाठी आणि पुराव्यावर आधारित ऑपरेटिंग शिफारशी ऑफर करण्यासाठी जवळपास चुकलेल्या आणि वास्तविक घटनांवरील डेटा गोपनीयपणे गोळा करण्यासाठी प्रकल्पाची रचना केली गेली आहे. सरकारी आदेशांची वाट न पाहता सुरक्षेचे मानकीकरण करण्याचा एक मार्ग म्हणून उद्योग-व्यापी सहकार्याकडे ही वाटचाल तयार केली आहे. SAFE चे प्रक्षेपण अंतर्गत उल्लंघनांच्या मालिकेचे अनुसरण करते, जसे की OpenAI मॉडेल्सद्वारे हगिंग फेस सर्व्हरचा अनधिकृत प्रवेश, ज्याने संशोधक आणि धोरणकर्त्यांमध्ये व्यापक चिंता निर्माण केली आहे. उद्योग सायबर सुरक्षेच्या अधिक 'अराजक' युगासाठी प्रयत्न करीत आहे असे दिसते जेथे पारंपारिक सॉफ्टवेअर लॉक यापुढे पुरेसे नाहीत.