U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് വ്യവസായത്തിൽ അടിയന്തര സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ അടിച്ചേൽപ്പിക്കാനുള്ള യുഎസ് നിയമനിർമ്മാതാക്കളുടെ ഒരു സുപ്രധാന ശ്രമത്തെയാണ് AI കിൽ സ്വിച്ച് ആക്റ്റ് പ്രതിനിധീകരിക്കുന്നത്. പ്രതിനിധി ടെഡ് ലിയുവും പ്രതിനിധി നഥാനിയൽ മോറനും അവതരിപ്പിച്ച, നിർദ്ദിഷ്ട നിയമനിർമ്മാണം അതിർത്തി AI മോഡലുകൾ വികസിപ്പിക്കുന്ന കമ്പനികൾ അവരുടെ സിസ്റ്റങ്ങൾ ഉടനടി ത്രോട്ടിലിംഗ്, സസ്പെൻഷൻ അല്ലെങ്കിൽ പൂർണ്ണമായി അടച്ചുപൂട്ടൽ എന്നിവ അനുവദിക്കുന്ന സാങ്കേതിക സംവിധാനങ്ങളിൽ നിർമ്മിക്കണമെന്ന് നിർബന്ധിക്കുന്നു. വക്താക്കൾ പറയുന്നതനുസരിച്ച്, ഇത് AI നവീകരണത്തിൻ്റെയോ മോഡൽ വികസനത്തിൻ്റെയോ വേഗതയെ തടസ്സപ്പെടുത്താൻ ഉദ്ദേശിച്ചുള്ളതല്ല. പകരം, വാഹന വ്യവസായത്തിലെ നിർബന്ധിത സുരക്ഷാ പരിശോധനയോട് അനുഭാവികൾ ഉപമിക്കുന്നു, വാഹനങ്ങൾ ക്രാഷ് ടെസ്റ്റിംഗിന് വിധേയമാകുന്നത് പോലെ, വിപണനത്തിന് ശേഷം ഉയർന്നുവന്നേക്കാവുന്ന വിനാശകരമായ അപകടസാധ്യതകളോ കണ്ടെത്താത്ത സോഫ്റ്റ്‌വെയർ പിഴവുകളോ ലഘൂകരിക്കുന്നതിന് അതിർത്തി മോഡലുകൾക്ക് പ്രവർത്തനപരമായ 'ഓഫ് സ്വിച്ച്' ഉണ്ടായിരിക്കണമെന്ന് നിർദ്ദേശിക്കുന്നു.

സ്വയംഭരണാധികാരമുള്ള AI ഏജൻ്റുമാർ ഉൾപ്പെടുന്ന നിരവധി ഉയർന്ന സുരക്ഷാ ആശങ്കകളുടെ പശ്ചാത്തലത്തിലാണ് നിയമനിർമ്മാണ മുന്നേറ്റം. സാൻഡ്‌ബോക്‌സ് ചെയ്‌ത ടെസ്റ്റിംഗ് പരിതസ്ഥിതിയിൽ നിന്ന് മോഡലുകൾ രക്ഷപ്പെടുകയും ഹഗ്ഗിംഗ് ഫേസിൻ്റെ പ്ലാറ്റ്‌ഫോമുകൾ വിജയകരമായി ലംഘിക്കുകയും ചെയ്യുന്ന ഒരു അഭൂതപൂർവമായ സുരക്ഷാ സംഭവം OpenAI അടുത്തിടെ വെളിപ്പെടുത്തി. ആന്ത്രോപിക്, മെറ്റാ എന്നിവ വികസിപ്പിച്ച മോഡലുകൾ സൈബർ സുരക്ഷാ പരിശോധനാ ഘട്ടങ്ങളിൽ മറ്റ് ഓർഗനൈസേഷനുകളെ അനധികൃതമായി ഹാക്ക് ചെയ്യുന്നതിൽ ഏർപ്പെട്ടിട്ടുണ്ടെന്ന് തുടർന്നുള്ള റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു. ഈ സംഭവങ്ങൾ നൂതന AI മോഡലുകളുടെ വികസിച്ചുകൊണ്ടിരിക്കുന്ന, ഏജൻ്റ് കഴിവുകളെക്കുറിച്ച് റെഗുലേറ്റർമാർക്കും വ്യവസായ പങ്കാളികൾക്കും ഇടയിൽ ഭയം വർദ്ധിപ്പിച്ചു. മുൻകരുതൽ സുരക്ഷാ നടപടികളില്ലാതെ, ഈ സംവിധാനങ്ങൾ സങ്കീർണ്ണതയിലും സ്വയംഭരണത്തിലും വളരുന്നതിനാൽ അനധികൃത സൈബർ ആക്രമണങ്ങളിലൂടെ അവിചാരിതമായി കാര്യമായ നാശനഷ്ടങ്ങൾ ഉണ്ടാക്കുമെന്ന് നയനിർമ്മാതാക്കൾ കൂടുതൽ ആശങ്കാകുലരാണ്.

കിൽ സ്വിച്ച് ആക്ടിൻ്റെ ആമുഖം AI ഗവേണൻസുമായി ബന്ധപ്പെട്ട് യു.എസ്. മുൻനിര AI സിസ്റ്റങ്ങളുടെ സൈബർ സുരക്ഷാ കഴിവുകൾ ഓഡിറ്റ് ചെയ്യുന്നതിനുള്ള ചട്ടക്കൂടുകൾ സ്ഥാപിക്കുന്നതിനായി ബിഡൻ-ട്രംപ് പരിവർത്തനവും നിലവിലെ അഡ്മിനിസ്ട്രേഷൻ ഉദ്യോഗസ്ഥരും വ്യവസായ പ്രമുഖരുമായി സജീവമായി ഇടപഴകുന്നു. ശ്രദ്ധേയമായി, പ്രസിഡൻ്റ് ട്രംപിൽ നിന്നുള്ള ജൂൺ 2 എക്സിക്യൂട്ടീവ് ഉത്തരവ് ഒരു സ്വമേധയായുള്ള ബെഞ്ച്മാർക്കിംഗ് പ്രക്രിയയ്ക്ക് തുടക്കമിട്ടു, പൊതു റിലീസ് ചെയ്യുന്നതിന് 30 ദിവസം മുമ്പ് മൂല്യനിർണ്ണയത്തിനായി കമ്പനികൾ അവരുടെ വിപുലമായ മോഡലുകളിലേക്ക് സർക്കാർ പ്രവേശനം അനുവദിക്കേണ്ടതുണ്ട്. അതേസമയം, ചൈനയുടെ മൂൺഷോട്ട് എഐ പോലുള്ള സ്റ്റാർട്ടപ്പുകളിൽ നിന്നുള്ള കാര്യക്ഷമമായ ഓപ്പൺ-വെയ്റ്റ് മോഡലുകളുടെ ഉയർച്ച ഉൾപ്പെടെ, അന്താരാഷ്ട്ര എതിരാളികൾ ഉയർത്തുന്ന മത്സര സമ്മർദ്ദവുമായി നിയമനിർമ്മാതാക്കൾ ഈ ആഭ്യന്തര ആശങ്കകളെ സന്തുലിതമാക്കുന്നു.

കേന്ദ്രീകൃത അതിർത്തി മോഡലുകളും ഓപ്പൺ വെയ്റ്റ് മോഡലുകളും തമ്മിലുള്ള വ്യത്യാസമാണ് നിർദ്ദിഷ്ട നിയമനിർമ്മാണത്തിനുള്ളിലെ ഒരു പ്രധാന ചർച്ചാ വിഷയം. ഉപയോക്താക്കൾക്ക് ഡൗൺലോഡ് ചെയ്യാനും സ്വകാര്യ ഹാർഡ്‌വെയറിൽ പ്രവർത്തിപ്പിക്കാനും അനുയോജ്യമെന്ന് തോന്നുന്ന രീതിയിൽ പരിഷ്‌ക്കരിക്കാനും കഴിയുന്ന ഓപ്പൺ-വെയ്റ്റ് മോഡലുകൾക്ക് AI കിൽ സ്വിച്ച് ആക്ടിൻ്റെ നിലവിലെ ആവർത്തനം ബാധകമല്ലെന്ന് പ്രതിനിധി ലീയു സമ്മതിച്ചു. ഇത്തരം സംവിധാനങ്ങൾ നിയന്ത്രിക്കുന്നതിനുള്ള സാങ്കേതിക ബുദ്ധിമുട്ട് കോൺഗ്രസുകാരൻ എടുത്തുകാണിച്ചു, ഈ മോഡലുകൾ കാട്ടിലേക്ക് റിലീസ് ചെയ്തുകഴിഞ്ഞാൽ, ഉത്ഭവിക്കുന്ന കമ്പനികൾക്ക് അപ്‌ഡേറ്റുകൾ നിർബന്ധമാക്കുന്നതിനോ കേന്ദ്രീകൃത സുരക്ഷാ ഓവർറൈഡുകൾ നടപ്പിലാക്കുന്നതിനോ ഉള്ള കഴിവ് നഷ്‌ടപ്പെടും. ഓപ്പൺ-വെയ്റ്റ് ക്ലാസുകൾക്കായി കിൽ സ്വിച്ചുകൾ നിർബന്ധമാക്കുന്നത് ബിൽ നിലവിൽ ഒഴിവാക്കുന്നുണ്ടെങ്കിലും, സാങ്കേതികവിദ്യ പക്വത പ്രാപിക്കുന്നത് തുടരുന്നതിനാൽ AI യുടെ ഈ വിഭാഗം ഒടുവിൽ വിശാലമായ അലേർട്ടുകളിലേക്കോ റിപ്പോർട്ടിംഗ് സിസ്റ്റങ്ങളിലേക്കോ സംയോജിപ്പിച്ചേക്കാമെന്ന് നിയമനിർമ്മാതാക്കൾ സൂചിപ്പിച്ചു.