A Nvidia e uma coalizão de 27 empresas de tecnologia formaram a Open Secure AI Alliance para desenvolver ferramentas defensivas de segurança cibernética de código aberto. O grupo procura proteger as empresas de futuros incidentes semelhantes ao recente ataque desonesto ao Hugging Face, onde modelos comerciais fechados não conseguiram ajudar na defesa da empresa.
O lançamento da Open Secure AI Alliance
Num movimento estratégico para remodelar a segurança cibernética na era da inteligência artificial, a Nvidia liderou a criação da Open Secure AI Alliance. Esta coalizão reúne 27 organizações tecnológicas influentes, incluindo grandes players como Microsoft, Dell, SpaceX, The Linux Foundation e IBM. A aliança está estruturada para aproveitar as estruturas de código aberto existentes, baseando-se diretamente nos esforços fundamentais da iniciativa Akrites da Linux Foundation e da comunidade OpenSSF. O objetivo principal da aliança é estabelecer métodos colaborativos mais eficazes para divulgar e remediar vulnerabilidades de software. Ao reunir recursos e conhecimentos, o grupo pretende fornecer às organizações as ferramentas defensivas necessárias para navegar em cenários de ameaças digitais cada vez mais complexos, onde as medidas de segurança tradicionais de código fechado podem revelar-se insuficientes ou excessivamente restritivas durante os esforços de resposta crítica.
O incidente do rosto do abraço e as restrições do modelo
A formação desta aliança foi catalisada diretamente por um incidente de segurança significativo envolvendo a startup Hugging Face, que enfrentou um ataque cibernético desonesto. Quando a Hugging Face tentou utilizar os principais modelos comerciais de IA de fronteira de código fechado para detectar e repelir a atividade não autorizada, descobriu que as proteções de segurança dos modelos os tornavam ineficazes. Como estes sistemas não conseguiam distinguir entre o atacante e o defensor, os pedidos de análise forense da plataforma foram repetidamente negados. Isso forçou a equipe de engenharia a migrar para modelos auto-hospedados e de peso aberto, especificamente o sistema GLM 5.2. Ao executar esta alternativa aberta em sua própria infraestrutura, o Hugging Face analisou com sucesso mais de 17.000 ações distintas e conteve a intrusão. Esta experiência destacou o que os membros da aliança descrevem como uma verdade prática: quando os defensores não têm a capacidade de inspecionar e adaptar o software de IA nos seus próprios termos, a sua capacidade de resposta durante emergências de alto risco é gravemente prejudicada.
Contribuições e metas colaborativas
Os membros fundadores da aliança comprometeram-se a contribuir com ativos especializados para reforçar o ecossistema. A Nvidia está fornecendo modelos abertos, pesos abrangentes, conjuntos de dados e novos equipamentos de agentes projetados para acelerar a criação de ferramentas avançadas de segurança cibernética. A Hewlett Packard Enterprise (HPE) tem a tarefa de desenvolver padrões para facilitar a verificação criptográfica de agentes e serviços de IA, garantindo maior confiança e responsabilidade em sistemas automatizados. Além disso, Hugging Face está contribuindo com Safetensors, um formato seguro projetado especificamente para armazenar pesos de modelos de IA. A aliança apela ativamente aos governos para que tratem a infraestrutura aberta de IA como um ativo de defesa nacional e não como um passivo. Argumentam que a imposição de restrições gerais aos modelos de fronteira de peso aberto seria contraproducente, limitando efectivamente as capacidades defensivas e ao mesmo tempo concentrando um poder significativo num pequeno grupo de fornecedores proprietários de IA que podem não servir as necessidades mais amplas de segurança da indústria.
Tensões regulatórias e modelos chineses de IA
A iniciativa surge no meio de um debate mais amplo e intenso em Washington sobre o papel dos modelos de IA desenvolvidos na China. Atualmente, a administração Trump e vários legisladores estão a considerar proibições ou limitações estritas a estes modelos, que são muitas vezes abertos e mais baratos do que os seus homólogos americanos. Embora os críticos expressem preocupações sobre o roubo de propriedade intelectual e os ataques de “destilação” – onde modelos são usados para extrair conhecimento sensível de sistemas mais sofisticados – os membros da nova aliança temem que tais medidas possam sufocar a inovação nacional. Uma carta recente assinada pela Nvidia, Microsoft, Meta e outros alerta que restrições prematuras aos sistemas abertos correm o risco de impulsionar o desenvolvimento no exterior. Especialistas como Chris McGuire, do Conselho de Relações Exteriores, observam que o debate está a mudar para um enfoque de segurança nacional, centrado na prevenção do roubo de propriedade intelectual chinês, em vez de uma batalha ideológica inerente entre sistemas abertos e fechados. A aliança continua preocupada, no entanto, com a possibilidade de as consequências regulamentares poderem prejudicar inadvertidamente a comunidade global de código aberto.
⚖ The Balanced View
Supporting view
Os defensores, incluindo a Nvidia e a Microsoft, argumentam que os modelos abertos são ativos defensivos essenciais, pois permitem que as organizações inspecionem, modifiquem e hospedem sistemas localmente para responder a ameaças sem serem bloqueadas por barreiras de proteção de terceiros.
Concerns & criticism
Os decisores políticos e os especialistas em segurança nacional manifestam preocupação com o surgimento de modelos de código aberto construídos na China, temendo que possam ser utilizados para roubo de propriedade intelectual ou fornecer um veículo para intervenientes estrangeiros extrairem informações de tecnologias avançadas dos EUA.
→What's next
A Open Secure AI Alliance pretende coordenar-se com os governos para promover investimentos em infraestruturas de IA abertas e partilhadas. Simultaneamente, o grupo continuará a pressionar os decisores políticos para impedir legislação que possa restringir a disponibilidade e o desenvolvimento de modelos de fronteira de peso aberto.