Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

Niedawne badanie przeprowadzone przez CDW z udziałem 951 decydentów IT podkreśla zwrot w stronę zagrożeń cybernetycznych opartych na sztucznej inteligencji, do zarządzania którymi wiele organizacji nie jest obecnie przygotowanych. Według raportu 43% firm miało już do czynienia ze schematami phishingowymi wykorzystującymi sztuczną inteligencję, a 37% zetknęło się ze złośliwym oprogramowaniem wspomaganym przez sztuczną inteligencję. Jak często zauważają eksperci ds. bezpieczeństwa, naruszenie bezpieczeństwa jest coraz częściej postrzegane jako nieuniknione, a nie możliwe. Charakter tych zagrożeń szybko się zmienia; Zamiast pojedynczych prób deepfake, które tylko 8% respondentów uznało za największe ryzyko, szkodliwi przestępcy wdrażają autonomiczne systemy agentowe, które mogą wykrywać i wykorzystywać luki w zabezpieczeniach na dużą skalę. W odpowiedzi około 41% firm chce wdrożyć systemy wykrywania zagrożeń oparte na sztucznej inteligencji, aby przeciwdziałać tej nowej fali szybkiej i zautomatyzowanej eksploatacji.

Wrażliwość obecnych strategii obronnych została niedawno podkreślona, ​​gdy start-up zajmujący się sztuczną inteligencją Hugging Face został zaatakowany przez modele agentyczne. Podczas incydentu firma odkryła, że ​​standardowe modele sztucznej inteligencji stosowane na granicy USA były nieskuteczne, ponieważ bariery zabezpieczające uniemożliwiały identyfikację i blokowanie agresora. W rezultacie firma Hugging Face musiała polegać na własnym, otwartym chińskim modelu, aby przeprowadzić analizę kryminalistyczną. Wydarzenie to posłużyło jako katalizator do powstania stowarzyszenia Open Secure AI Alliance, na którego czele stoi firma Nvidia. Sojusz argumentuje, że aby obrońcy cyberbezpieczeństwa mogli działać z niezbędną szybkością, muszą mieć możliwość kontrolowania, dostosowywania i obsługi zaawansowanych systemów sztucznej inteligencji we własnej infrastrukturze, a nie związani z zamkniętymi, zastrzeżonymi platformami.

Utworzenie Open Secure AI Alliance zbiega się z rosnącą debatą geopolityczną dotyczącą chińskich modeli sztucznej inteligencji. Podczas gdy giganci technologiczni, tacy jak Microsoft, Meta i Nvidia, opowiadają się za ekosystemem open source, niektórzy decydenci i organy regulacyjne są zaniepokojeni „destylacją” – procesem, w którym chińskie modele wydobywają zastrzeżoną wiedzę z lepszych systemów granicznych w USA. Sekretarz skarbu USA Scott Bessent zasugerował już potencjalne sankcje wobec firm zaangażowanych w taką działalność. Liderzy branży chodzą obecnie po linie, wzywając Waszyngton do unikania przedwczesnych ograniczeń, które mogłyby utrudniać innowacje. Twierdzą, że społeczność open source zapewnia przejrzystość niezbędną dla bezpieczeństwa, podczas gdy ścisłe zamknięcie tych modeli zmusiłoby firmy do polegania na infrastrukturze, której nie mogą w pełni kontrolować ani audytować podczas rzeczywistego kryzysu bezpieczeństwa.

Równolegle Microsoft wprowadził nowy model sztucznej inteligencji MAI-Cyber-1-Flash, stworzony specjalnie w celu wykrywania luk w zabezpieczeniach cybernetycznych. Model ten reprezentuje strategiczne wysiłki mające na celu ożywienie działalności firmy Microsoft w zakresie bezpieczeństwa pod kierownictwem Hayete Gallot. Według Microsoftu, w połączeniu z GPT-5.4 OpenAI, model ten przewyższa konkurencyjne rozwiązania firm Anthropic i Google w teście CyberGym. Oprócz samego modelu Microsoft wdraża „Project Perception” – zestaw agentów sztucznej inteligencji zaprojektowanych do wykrywania i naprawiania słabych punktów systemu, a publiczną wersję zapoznawczą zaplanowano na 3 sierpnia. Dyrektor generalny Mustafa Suleyman podkreślił opłacalność narzędzia, zauważając, że zapewnia ono wysoką wydajność za połowę kosztów istniejących opcji, potencjalnie umożliwiając firmom lepszy personel w centrach operacyjnych bezpieczeństwa (SOC) poprzez obniżenie technicznej bariery wejścia.