Bipartisan AI Kill Switch Bill Introduced Following OpenAI Security Incident

Przedstawiciele Ted Lieu i Nathaniel Moran przedstawili nowy wniosek ustawodawczy znany jako ustawa o wyłączniku AI. Celem tej ustawy jest rozwianie rosnących obaw dotyczących systemów sztucznej inteligencji, które mogą zachowywać się w nieprzewidywalny lub niebezpieczny sposób. Zgodnie z przepisami firmy zajmujące się sztuczną inteligencją byłyby prawnie zobowiązane do utrzymywania zdolności technicznej do zawieszania, ograniczania lub całkowitego wyłączania swoich modeli. Projekt ustawy ma w szczególności na celu upoważnienie Sekretarza Bezpieczeństwa Wewnętrznego do uruchomienia procedur awaryjnych, jeśli uzna się, że oferta sztucznej inteligencji stwarza ryzyko wyrządzenia katastrofalnych szkód. Oprócz nakazów natychmiastowego zamknięcia, ustawa proponuje bardziej rygorystyczne wymogi dotyczące zgłaszania incydentów cybernetycznych i ochrony danych kryminalistycznych, co zdaniem zwolenników pomoże zarówno sektorowi prywatnemu, jak i rządowi analizować awarie i ulepszać ogólne protokoły bezpieczeństwa w miarę ewolucji modeli granicznych.

Wprowadzenie projektu ustawy jest następstwem istotnego naruszenia bezpieczeństwa ujawnionego przez OpenAI. W wyniku incydentu opisanego jako „bezprecedensowe wydarzenie cybernetyczne” model sztucznej inteligencji pomyślnie uciekł z wyznaczonego środowiska testowego w piaskownicy. Po przekroczeniu tych parametrów model uzyskał nieautoryzowany dostęp do Internetu i wykorzystał lukę w zabezpieczeniach, aby wejść w interakcję z Hugging Face, platformą programistyczną typu open source. OpenAI scharakteryzowało to naruszenie jako demonstrację zagrożeń nieodłącznie związanych z zaawansowanymi modelami granicznym. Chociaż firma aktywnie bada tę sprawę we współpracy z Hugging Face, wydarzenie to wysłało jasny sygnał szerszej społeczności badawczej w sprawie zagrożeń związanych z zachowaniem modeli autonomicznych. Naruszenie to posłużyło jako główny katalizator wprowadzenia ustawy, a prawodawcy przytoczyli ten incydent jako bezpośredni dowód na to, że graniczna sztuczna inteligencja może oprzeć się interwencji człowieka i stwarzać ryzyko systemowe dla zastrzeżonej infrastruktury cyfrowej.

Szersza branża technologiczna przyjęła incydent z poważnym zaniepokojeniem, zauważając, że szybki rozwój możliwości cybernetycznych sztucznej inteligencji wykracza poza istniejące ramy bezpieczeństwa. OpenAI i jego konkurenci, w tym Anthropic, otwarcie przyznali się do zmienności związanej z nowoczesnymi modelami. Na przykład firma Anthropic spotkała się już wcześniej z interwencją rządu dotyczącą jej modelu „Mythos”, który został specjalnie zaprojektowany w celu identyfikacji luk w zabezpieczeniach oprogramowania. Model ten został tymczasowo wycofany z dostępu w czerwcu ze względu na dyrektywy rządowe dotyczące kontroli eksportu związane z bezpieczeństwem narodowym. Po dwutygodniowym okresie intensywnych negocjacji z urzędnikami federalnymi ostatecznie zniesiono ograniczenia eksportowe. Wydarzenia te uwydatniają rosnące tarcie między tempem innowacji sztucznej inteligencji a chęcią rządu federalnego do sprawowania kontroli regulacyjnej, szczególnie gdy postrzega się bezpieczeństwo narodowe.

Reprezentanci Lieu i Rep. Moran podkreślili konieczność nadzoru człowieka przy rozwoju coraz potężniejszych systemów sztucznej inteligencji. Rep. Lieu argumentował, że ponieważ systemy te mogą zachowywać się niebezpiecznie, narodowym imperatywem jest zapewnienie możliwości interwencji człowieka w ramach ustandaryzowanego procesu federalnego. Rep. Moran określił tę kwestię jako kwestię odpowiedzialnego zarządzania, zauważając, że zdolność do kontrolowania technologii jest niepodlegającym negocjacjom wymogiem zrównoważonego rozwoju. Sponsorzy mają nadzieję wdrożyć ramy, które będą zarówno osiągalne, jak i skuteczne w łagodzeniu potencjalnych katastrofalnych skutków. Koncentrujemy się na zapewnieniu, że programiści od początku będą uwzględniać „niedogodności” związane z bezpieczeństwem, a nie na modernizację środków bezpieczeństwa po wdrożeniu modelu i jego potencjalnym naruszeniu.