Nvidia and Tech Consortium Launch Open Secure AI Alliance Following Cyberattack

In una mossa strategica per rimodellare la sicurezza informatica nell’era dell’intelligenza artificiale, Nvidia ha guidato la creazione della Open Secure AI Alliance. Questa coalizione riunisce 27 influenti organizzazioni tecnologiche, tra cui importanti attori come Microsoft, Dell, SpaceX, The Linux Foundation e IBM. L’alleanza è strutturata per sfruttare i framework open source esistenti, basandosi direttamente sugli sforzi fondamentali dell’iniziativa Akrites della Linux Foundation e della comunità OpenSSF. L'obiettivo principale dell'alleanza è stabilire metodi più efficaci e collaborativi per individuare e correggere le vulnerabilità del software. Unendo risorse e competenze, il gruppo mira a fornire alle organizzazioni gli strumenti difensivi necessari per affrontare scenari di minacce digitali sempre più complessi in cui le tradizionali misure di sicurezza closed-source possono rivelarsi insufficienti o eccessivamente restrittive durante gli sforzi di risposta critica.

La formazione di questa alleanza è stata direttamente catalizzata da un significativo incidente di sicurezza che ha coinvolto la startup Hugging Face, che ha subito un attacco informatico non autorizzato. Quando Hugging Face ha tentato di utilizzare i principali modelli di intelligenza artificiale di frontiera commerciali e closed source per rilevare e respingere l’attività non autorizzata, ha scoperto che i guardrail di sicurezza dei modelli li rendevano inefficaci. Poiché questi sistemi non riuscivano a distinguere tra l'attaccante e il difensore, le richieste di analisi forense della piattaforma sono state ripetutamente respinte. Ciò ha costretto il team di ingegneri a passare a modelli open-weight self-hosted, in particolare al sistema GLM 5.2. Eseguendo questa alternativa aperta sulla propria infrastruttura, Hugging Face ha analizzato con successo oltre 17.000 azioni distinte e ha contenuto l'intrusione. Questa esperienza ha evidenziato ciò che i membri dell’alleanza descrivono come una verità pratica: quando i difensori non hanno la capacità di ispezionare e adattare il software di intelligenza artificiale alle proprie condizioni, la loro capacità di rispondere durante le emergenze ad alto rischio è gravemente ostacolata.

I membri fondatori dell’alleanza si sono impegnati a contribuire con risorse specializzate per rafforzare l’ecosistema. Nvidia fornisce modelli aperti, pesi completi, set di dati e nuovi cablaggi di agenti progettati per accelerare la creazione di strumenti avanzati di sicurezza informatica. Hewlett Packard Enterprise (HPE) ha il compito di sviluppare standard per facilitare la verifica crittografica di agenti e servizi di intelligenza artificiale, garantendo maggiore fiducia e responsabilità nei sistemi automatizzati. Inoltre, Hugging Face sta contribuendo con Safetensors, un formato sicuro progettato specificamente per archiviare i pesi dei modelli di intelligenza artificiale. L’alleanza chiede attivamente ai governi di considerare le infrastrutture aperte di IA come una risorsa difensiva nazionale piuttosto che come una passività. Sostengono che imporre restrizioni generali sui modelli di frontiera open-weight sarebbe controproducente, limitando di fatto le capacità difensive e concentrando al contempo un potere significativo all’interno di un piccolo gruppo di fornitori di intelligenza artificiale proprietari che potrebbero non soddisfare le più ampie esigenze di sicurezza del settore.

L’iniziativa arriva nel mezzo di un dibattito più ampio e intenso a Washington sul ruolo dei modelli di intelligenza artificiale sviluppati in Cina. Attualmente, l’amministrazione Trump e vari legislatori stanno prendendo in considerazione severi divieti o limitazioni su questi modelli, che sono spesso aperti e più economici rispetto ai loro omologhi americani. Mentre i critici esprimono preoccupazione per il furto di proprietà intellettuale e gli attacchi di “distillazione” – in cui vengono utilizzati modelli per estrarre conoscenze sensibili da sistemi più sofisticati – i membri della nuova alleanza temono che tali misure potrebbero soffocare l’innovazione nazionale. Una recente lettera firmata da Nvidia, Microsoft, Meta e altri mette in guardia sul fatto che restrizioni premature sui sistemi open-weight rischiano di spingere lo sviluppo all’estero. Esperti come Chris McGuire del Council on Foreign Relations notano che il dibattito si sta spostando verso un focus sulla sicurezza nazionale, incentrato sulla prevenzione del furto di proprietà intellettuale da parte cinese piuttosto che su una battaglia ideologica intrinseca tra sistemi aperti e chiusi. L'alleanza rimane tuttavia preoccupata che le ricadute normative possano inavvertitamente danneggiare la comunità globale open source.