Nvidia and Tech Consortium Launch Open Secure AI Alliance Following Cyberattack

Podejmując strategiczne posunięcie mające na celu zmianę kształtu cyberbezpieczeństwa w dobie sztucznej inteligencji, Nvidia zainicjowała utworzenie sojuszu Open Secure AI Alliance. Ta koalicja zrzesza 27 wpływowych organizacji technologicznych, w tym głównych graczy, takich jak Microsoft, Dell, SpaceX, The Linux Foundation i IBM. Struktura sojuszu ma na celu wykorzystanie istniejących platform open source, opierając się bezpośrednio na podstawowych wysiłkach inicjatywy Akrites Fundacji Linux i społeczności OpenSSF. Głównym celem sojuszu jest opracowanie skuteczniejszych, opartych na współpracy metod ujawniania i usuwania luk w oprogramowaniu. Łącząc zasoby i wiedzę, grupa ma na celu zapewnienie organizacjom narzędzi obronnych niezbędnych do poruszania się po coraz bardziej złożonym krajobrazie zagrożeń cyfrowych, w których tradycyjne środki bezpieczeństwa o zamkniętym kodzie źródłowym mogą okazać się niewystarczające lub zbyt restrykcyjne podczas działań w zakresie krytycznego reagowania.

Do powstania tego sojuszu bezpośrednio przyczynił się poważny incydent bezpieczeństwa z udziałem startupu Hugging Face, który stanął w obliczu nielegalnego cyberataku. Kiedy firma Hugging Face próbowała wykorzystać wiodące komercyjne modele sztucznej inteligencji o zamkniętym kodzie źródłowym do wykrywania i odpierania nieupoważnionych działań, okazało się, że bariery ochronne modeli sprawiły, że były one nieskuteczne. Ponieważ systemy te nie potrafiły rozróżnić atakującego od obrońcy, żądania platformy dotyczące analizy kryminalistycznej były wielokrotnie odrzucane. Zmusiło to zespół inżynierów do przejścia na samodzielne modele o otwartej wadze, w szczególności na system GLM 5.2. Uruchamiając tę ​​otwartą alternatywę na własnej infrastrukturze, Hugging Face pomyślnie przeanalizował ponad 17 000 różnych działań i powstrzymał włamanie. To doświadczenie uwydatniło to, co członkowie sojuszu określają jako praktyczną prawdę: gdy obrońcy nie mają możliwości kontrolowania i dostosowywania oprogramowania AI na własnych warunkach, ich zdolność do reagowania w sytuacjach awaryjnych o wysokiej stawce jest poważnie ograniczona.

Członkowie założyciele sojuszu zobowiązali się do wniesienia wyspecjalizowanych zasobów w celu wzmocnienia ekosystemu. Nvidia zapewnia otwarte modele, kompleksowe wagi, zbiory danych i nowe wiązki agentów zaprojektowane w celu przyspieszenia tworzenia zaawansowanych narzędzi cyberbezpieczeństwa. Hewlett Packard Enterprise (HPE) ma za zadanie opracowywać standardy ułatwiające kryptograficzną weryfikację agentów i usług AI, zapewniając większe zaufanie i odpowiedzialność w zautomatyzowanych systemach. Co więcej, Hugging Face udostępnia Safetensors, bezpieczny format zaprojektowany specjalnie do przechowywania ciężarów modeli AI. Sojusz aktywnie wzywa rządy, aby traktowały otwartą infrastrukturę sztucznej inteligencji raczej jako narodowy atut obronny, a nie obciążenie. Twierdzą, że nałożenie ogólnych ograniczeń na otwarte modele graniczne przyniosłoby efekt przeciwny do zamierzonego, skutecznie ograniczając możliwości obronne, a jednocześnie koncentrując znaczną władzę w małej grupie zastrzeżonych dostawców sztucznej inteligencji, którzy mogą nie służyć szerszym potrzebom branży w zakresie bezpieczeństwa.

Inicjatywa pojawia się w kontekście szerszej i nasilającej się debaty w Waszyngtonie na temat roli opracowanych w Chinach modeli sztucznej inteligencji. Obecnie administracja Trumpa i różni prawodawcy rozważają surowe zakazy lub ograniczenia dotyczące tych modeli, które często są otwarte i tańsze niż ich amerykańskie odpowiedniki. Podczas gdy krytycy wyrażają obawy związane z kradzieżą własności intelektualnej i atakami „destylacyjnymi” – podczas których wykorzystuje się modele do wydobywania wrażliwej wiedzy z bardziej wyrafinowanych systemów – członkowie nowego sojuszu obawiają się, że takie środki mogą zdusić krajowe innowacje. Niedawny list podpisany przez Nvidię, Microsoft, Meta i inne firmy ostrzega, że ​​przedwczesne ograniczenia nałożone na systemy o otwartej wadze mogą spowodować rozwój za granicą. Eksperci tacy jak Chris McGuire z Council on Foreign Relations zauważają, że debata przesuwa się w stronę bezpieczeństwa narodowego, skupionego na zapobieganiu kradzieży własności intelektualnej w Chinach, a nie na nieodłącznej walce ideologicznej między systemami otwartymi i zamkniętymi. Sojusz pozostaje jednak zaniepokojony tym, że skutki regulacyjne mogą w sposób niezamierzony zaszkodzić globalnej społeczności open source.