A seguito di un attacco informatico su Hugging Face che ha rivelato limitazioni nei modelli di intelligenza artificiale ristretti, una coalizione di giganti della tecnologia ha formato la Open Secure AI Alliance per promuovere strumenti a peso aperto per la difesa informatica. Allo stesso tempo, Microsoft ha presentato il proprio modello di intelligenza artificiale economicamente vantaggioso progettato per identificare e rimediare alle vulnerabilità della sicurezza informatica.
L’ascesa delle minacce dell’IA agentica
Un recente studio condotto da CDW che ha coinvolto 951 decisori IT evidenzia uno spostamento verso le minacce informatiche guidate dall’intelligenza artificiale che molte organizzazioni non sono attualmente attrezzate per gestire. Secondo il rapporto, il 43% delle aziende ha già affrontato schemi di phishing potenziati dall’intelligenza artificiale, mentre il 37% ha dovuto affrontare malware potenziati dall’intelligenza artificiale. Come spesso notano gli esperti di sicurezza, una violazione è sempre più vista come un’inevitabilità piuttosto che una possibilità. La natura di queste minacce sta cambiando rapidamente; anziché tentativi isolati di deepfake, che solo l’8% degli intervistati ha indicato come il rischio principale, gli autori malintenzionati stanno implementando sistemi autonomi e agenti in grado di scoprire e sfruttare le vulnerabilità su larga scala. In risposta, circa il 41% delle aziende sta cercando di implementare sistemi di rilevamento delle minacce basati sull’intelligenza artificiale per contrastare questa nuova ondata di sfruttamento automatizzato e ad alta velocità.
L’incidente del volto che abbraccia e i modelli aperti
La vulnerabilità delle attuali strategie difensive è stata recentemente sottolineata quando la startup di intelligenza artificiale Hugging Face è stata attaccata da modelli di agenti. Durante l’incidente, la società ha scoperto che i modelli standard di intelligenza artificiale di frontiera degli Stati Uniti erano inefficaci perché i loro guardrail di sicurezza impedivano di identificare e bloccare l’aggressore. Di conseguenza, Hugging Face ha dovuto fare affidamento su un modello cinese self-hosted e open-weight per condurre la propria analisi forense. Questo evento è servito da catalizzatore per la formazione della Open Secure AI Alliance, guidata da Nvidia. L’alleanza sostiene che, affinché i difensori della sicurezza informatica possano agire con la velocità necessaria, devono avere la capacità di ispezionare, adattare e utilizzare sistemi di intelligenza artificiale avanzati sulla propria infrastruttura, piuttosto che essere vincolati a piattaforme proprietarie chiuse.
La spinta per la sovranità e la sicurezza
La creazione della Open Secure AI Alliance coincide con un crescente dibattito geopolitico sui modelli di intelligenza artificiale cinesi. Mentre i giganti della tecnologia come Microsoft, Meta e Nvidia sostengono l’ecosistema open source, alcuni politici e regolatori sono preoccupati per la “distillazione”, un processo in cui i modelli cinesi estraggono conoscenza proprietaria da sistemi di frontiera statunitensi superiori. Il segretario al Tesoro americano Scott Bessent ha già accennato a potenziali sanzioni contro le società coinvolte in tali attività. I leader del settore stanno ora camminando sul filo del rasoio, esortando Washington a evitare restrizioni premature che potrebbero ostacolare l’innovazione. Sostengono che la comunità open source fornisce la trasparenza necessaria per la sicurezza, mentre la chiusura rigorosa di questi modelli costringerebbe le aziende a fare affidamento su infrastrutture che non possono controllare o verificare completamente durante una crisi di sicurezza.
La nuova iniziativa di sicurezza informatica di Microsoft
In uno sviluppo parallelo, Microsoft ha introdotto un nuovo modello di intelligenza artificiale, MAI-Cyber-1-Flash, creato appositamente per rilevare le vulnerabilità della sicurezza informatica. Questo modello rappresenta uno sforzo strategico per rivitalizzare il business della sicurezza di Microsoft sotto la guida del dirigente Hayete Gallot. Secondo Microsoft, se abbinato al GPT-5.4 di OpenAI, il modello supera le soluzioni concorrenti di Anthropic e Google sul benchmark CyberGym. Oltre al modello stesso, Microsoft sta lanciando "Project Perception", una suite di agenti AI progettati per scoprire e correggere i punti deboli del sistema, con un'anteprima pubblica prevista per il 3 agosto. Il CEO Mustafa Suleyman ha sottolineato l'efficienza in termini di costi dello strumento, sottolineando che offre prestazioni elevate a metà del costo delle opzioni esistenti, consentendo potenzialmente alle aziende di migliorare il personale dei propri centri operativi di sicurezza (SOC) abbassando la barriera tecnica all'ingresso.
⚖ The Balanced View
Supporting view
I sostenitori dei modelli open-weight, tra cui Nvidia e Microsoft, sostengono che sono essenziali per la difesa perché consentono alle aziende di ispezionare e ospitare autonomamente i sistemi senza l’interferenza di rigidi guardrail che ostacolano i tempi di risposta durante un attacco attivo.
Concerns & criticism
Esiste una notevole preoccupazione da parte di funzionari governativi e analisti politici riguardo alla possibilità per le aziende cinesi di utilizzare modelli aperti per la “distillazione”, ovvero rubare la proprietà intellettuale dai modelli di frontiera statunitensi, portando a potenziali sanzioni o divieti imposti dal governo su specifiche transazioni legate all’intelligenza artificiale.
→What's next
Si prevede che la Open Secure AI Alliance inizi a lavorare sulla divulgazione e sulla riparazione delle vulnerabilità utilizzando tecnologie aperte. Nel frattempo, l’industria monitorerà da vicino se il governo degli Stati Uniti implementerà restrizioni formali sull’uso o sull’hosting di modelli di intelligenza artificiale sviluppati in Cina.