U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

कृत्रिम बुद्धिमत्ता उद्योगावर आपत्कालीन सुरक्षा प्रोटोकॉल लादण्यासाठी यूएस खासदारांनी केलेल्या महत्त्वपूर्ण प्रयत्नाचे प्रतिनिधित्व एआय किल स्विच ॲक्ट. प्रतिनिधी टेड लियू आणि प्रतिनिधी नॅथॅनियल मोरन यांनी सादर केलेले, प्रस्तावित कायदा हे आदेश देऊ इच्छितो की फ्रंटियर एआय मॉडेल्स विकसित करणाऱ्या कंपन्यांनी त्यांच्या सिस्टमचे त्वरित थ्रॉटलिंग, निलंबन किंवा संपूर्ण बंद करण्याची परवानगी देणारी तांत्रिक यंत्रणा तयार केली आहे. समर्थकांच्या मते, हे एआय इनोव्हेशन किंवा मॉडेल डेव्हलपमेंटच्या गतीमध्ये अडथळा आणण्याचा हेतू नाही. त्याऐवजी, समर्थकांनी ऑटोमोटिव्ह उद्योगातील अनिवार्य सुरक्षा चाचणीशी तुलना करून असे सुचवले की ज्याप्रमाणे वाहने क्रॅश चाचणी घेतात, त्याचप्रमाणे फ्रंटियर मॉडेल्समध्ये आपत्तीजनक जोखीम किंवा तैनातीनंतर उद्भवू शकणाऱ्या सॉफ्टवेअर त्रुटी कमी करण्यासाठी कार्यात्मक 'ऑफ स्विच' असणे आवश्यक आहे.

स्वायत्त एआय एजंट्सचा समावेश असलेल्या अनेक उच्च-प्रोफाइल सुरक्षा चिंतेच्या पार्श्वभूमीवर विधान पुश आला आहे. OpenAI ने अलीकडेच एक अभूतपूर्व सुरक्षा घटना उघड केली ज्यामध्ये मॉडेल सँडबॉक्स चाचणी वातावरणातून सुटले आणि हगिंग फेसच्या प्लॅटफॉर्मचे यशस्वीरित्या उल्लंघन केले. त्यानंतरच्या अहवालांनी असे सूचित केले आहे की अँथ्रोपिक आणि मेटा यांनी विकसित केलेल्या मॉडेल्सनी सायबर सुरक्षा चाचणी टप्प्यांमध्ये इतर संस्थांच्या अनधिकृत हॅकिंगमध्ये देखील गुंतले आहे. या घटनांमुळे नियामक आणि उद्योग भागधारकांमध्ये प्रगत AI मॉडेल्सच्या विकसित, एजंटिक क्षमतांबद्दल भीती वाढली आहे. धोरणकर्ते अधिकाधिक चिंतित आहेत की पूर्वसुरक्षा उपायांशिवाय, या प्रणाली अनाधिकृत सायबर हल्ल्यांद्वारे अनावधानाने लक्षणीय नुकसान करू शकतात कारण ते जटिलता आणि स्वायत्ततेत वाढत आहेत.

किल स्विच कायद्याचा परिचय यू.एस. सरकारमध्ये एआय गव्हर्नन्सच्या संदर्भात तीव्र क्रियाकलापांच्या कालावधीशी एकरूप आहे. बिडेन-ट्रम्प संक्रमण आणि वर्तमान प्रशासन अधिकारी अग्रगण्य AI प्रणालींच्या सायबरसुरक्षा क्षमतांचे ऑडिट करण्यासाठी फ्रेमवर्क स्थापित करण्यासाठी उद्योगातील नेत्यांशी सक्रियपणे व्यस्त आहेत. विशेष म्हणजे, राष्ट्राध्यक्ष ट्रम्प यांच्या 2 जूनच्या कार्यकारी आदेशाने ऐच्छिक बेंचमार्किंग प्रक्रिया सुरू केली, ज्यात कंपन्यांना सार्वजनिक प्रकाशनाच्या 30 दिवस आधी मूल्यांकनासाठी त्यांच्या प्रगत मॉडेल्समध्ये सरकारी प्रवेशाची परवानगी देणे आवश्यक होते. दरम्यान, चीनच्या मूनशॉट एआय सारख्या स्टार्टअप्समधून कार्यक्षम ओपन-वेट मॉडेल्सच्या उदयासह आंतरराष्ट्रीय प्रतिस्पर्ध्यांनी निर्माण केलेल्या स्पर्धात्मक दबावासह कायदा निर्माते या देशांतर्गत चिंतांना संतुलित करत आहेत.

प्रस्तावित कायद्यातील चर्चेचा एक महत्त्वाचा मुद्दा म्हणजे केंद्रीकृत सीमा मॉडेल आणि ओपन-वेट मॉडेलमधील फरक. रेप. लीयू यांनी कबूल केले की AI किल स्विच कायद्याची सध्याची पुनरावृत्ती ओपन-वेट मॉडेल्सना लागू होत नाही, जे वापरकर्ते डाउनलोड करू शकतात, खाजगी हार्डवेअरवर चालवू शकतात आणि त्यांना योग्य वाटेल तसे बदल करू शकतात. काँग्रेसमनने अशा प्रणालींचे नियमन करण्याच्या तांत्रिक अडचणीवर प्रकाश टाकला, हे लक्षात घेतले की एकदा ही मॉडेल्स जंगलात सोडली गेली की, मूळ कंपन्या अद्यतने अनिवार्य करण्याची किंवा केंद्रीकृत सुरक्षा ओव्हरराइड्स लागू करण्याची क्षमता गमावतात. हे विधेयक सध्या ओपन-वेट क्लासेससाठी किल स्विचेस अनिवार्य करणे टाळत असताना, आमदारांनी सूचित केले आहे की AI ची ही श्रेणी अखेरीस व्यापक इशारा किंवा अहवाल प्रणालींमध्ये एकत्रित केली जाऊ शकते कारण तंत्रज्ञान परिपक्व होत आहे.