Após um ataque cibernético ao Hugging Face que revelou limitações em modelos restritos de IA, uma coalizão de gigantes da tecnologia formou a Open Secure AI Alliance para promover ferramentas abertas para defesa cibernética. Ao mesmo tempo, a Microsoft revelou o seu próprio modelo de IA económico, concebido para identificar e remediar vulnerabilidades de segurança cibernética.
A ascensão das ameaças de IA agente
Um estudo recente da CDW envolvendo 951 decisores de TI destaca uma mudança em direção a ameaças cibernéticas impulsionadas pela IA que muitas organizações estão atualmente mal equipadas para gerir. De acordo com o relatório, 43% das empresas já lidaram com esquemas de phishing aprimorados por IA, enquanto 37% enfrentaram malware aumentado por IA. Como observam frequentemente os especialistas em segurança, uma violação é cada vez mais vista como uma inevitabilidade e não como uma possibilidade. A natureza destas ameaças está a mudar rapidamente; em vez de tentativas isoladas de deepfake, que apenas 8% dos entrevistados citaram como um dos principais riscos, os atores mal-intencionados estão implantando sistemas autônomos e agentes que podem descobrir e explorar vulnerabilidades em grande escala. Em resposta, cerca de 41% das empresas procuram implementar sistemas de detecção de ameaças baseados em IA para combater esta nova onda de exploração automatizada e de alta velocidade.
O incidente do rosto abraçado e modelos abertos
A vulnerabilidade das estratégias defensivas atuais foi recentemente sublinhada quando a startup de IA Hugging Face foi atacada por modelos de agentes. Durante o incidente, a empresa descobriu que os modelos padrão de IA de fronteira dos EUA eram ineficazes porque suas proteções de segurança os impediam de identificar e bloquear o agressor. Consequentemente, a Hugging Face teve que contar com um modelo chinês auto-hospedado e de peso aberto para conduzir sua análise forense. Este evento serviu como catalisador para a formação da Open Secure AI Alliance, liderada pela Nvidia. A aliança argumenta que, para que os defensores da cibersegurança atuem com a velocidade necessária, devem ter a capacidade de inspecionar, adaptar e operar sistemas avançados de IA na sua própria infraestrutura, em vez de ficarem dependentes de plataformas fechadas e proprietárias.
A pressão pela soberania e segurança
A criação da Open Secure AI Alliance coincide com um crescente debate geopolítico sobre os modelos chineses de IA. Enquanto gigantes da tecnologia como Microsoft, Meta e Nvidia defendem o ecossistema de código aberto, alguns decisores políticos e reguladores estão preocupados com a “destilação”, um processo em que os modelos chineses extraem conhecimento proprietário de sistemas superiores de fronteira dos EUA. O secretário do Tesouro dos EUA, Scott Bessent, já sugeriu potenciais sanções contra empresas envolvidas em tais atividades. Os líderes da indústria estão agora a caminhar na corda bamba, instando Washington a evitar restrições prematuras que possam prejudicar a inovação. Argumentam que a comunidade de código aberto proporciona a transparência necessária para a segurança, ao passo que o encerramento estrito destes modelos forçaria as empresas a confiar em infra-estruturas que não podem controlar ou auditar totalmente durante uma crise de segurança em curso.
A nova iniciativa de segurança cibernética da Microsoft
Num desenvolvimento paralelo, a Microsoft introduziu um novo modelo de inteligência artificial, MAI-Cyber-1-Flash, construído especificamente para detectar vulnerabilidades de segurança cibernética. Este modelo representa um esforço estratégico para revitalizar os negócios de segurança da Microsoft sob a liderança da executiva Hayete Gallot. De acordo com a Microsoft, quando combinado com o GPT-5.4 da OpenAI, o modelo supera as soluções concorrentes da Anthropic e do Google no benchmark CyberGym. Além do modelo em si, a Microsoft está lançando o 'Project Perception', um conjunto de agentes de IA projetados para descobrir e corrigir pontos fracos do sistema, com uma prévia pública agendada para 3 de agosto. O CEO Mustafa Suleyman enfatizou a relação custo-benefício da ferramenta, observando que ela oferece alto desempenho pela metade do custo das opções existentes, potencialmente permitindo que as empresas equipem melhor seus centros operacionais de segurança (SOCs), reduzindo a barreira técnica de entrada.
⚖ The Balanced View
Supporting view
Os defensores dos modelos de peso aberto, incluindo a Nvidia e a Microsoft, argumentam que eles são essenciais para a defesa porque permitem que as empresas inspeccionem e auto-hospedem sistemas sem a interferência de protecções rígidas que dificultam os tempos de resposta durante um ataque activo.
Concerns & criticism
Há uma preocupação significativa por parte de funcionários governamentais e analistas políticos relativamente ao potencial de as empresas chinesas utilizarem modelos abertos para “destilação” – roubo de propriedade intelectual de modelos fronteiriços dos EUA – levando a potenciais sanções impostas pelo governo ou proibições de transações específicas relacionadas com a IA.
→What's next
Espera-se que a Open Secure AI Alliance comece a trabalhar na divulgação e correção de vulnerabilidades usando tecnologias abertas. Enquanto isso, a indústria monitorará de perto se o governo dos EUA implementa restrições formais ao uso ou hospedagem de modelos de IA desenvolvidos na China.