À la suite d’une cyberattaque sur Hugging Face qui a révélé les limites des modèles d’IA restreints, une coalition de géants de la technologie a formé l’Open Secure AI Alliance pour promouvoir des outils ouverts de cyberdéfense. Parallèlement, Microsoft a dévoilé son propre modèle d'IA rentable, conçu pour identifier et corriger les vulnérabilités de cybersécurité.
L’essor des menaces d’IA agentique
Une étude récente menée par CDW auprès de 951 décideurs informatiques met en évidence une évolution vers des cybermenaces basées sur l'IA que de nombreuses organisations sont actuellement mal équipées pour gérer. Selon le rapport, 43 % des entreprises ont déjà été confrontées à des programmes de phishing améliorés par l'IA, tandis que 37 % ont été confrontées à des logiciels malveillants renforcés par l'IA. Comme le notent souvent les experts en sécurité, une violation est de plus en plus considérée comme une fatalité plutôt que comme une possibilité. La nature de ces menaces évolue rapidement ; plutôt que des tentatives isolées de deepfake, citées comme risque majeur par seulement 8 % des personnes interrogées, les acteurs malveillants déploient des systèmes autonomes et agents capables de découvrir et d’exploiter les vulnérabilités à grande échelle. En réponse, environ 41 % des entreprises cherchent à mettre en œuvre des systèmes de détection des menaces basés sur l’IA pour contrer cette nouvelle vague d’exploitation automatisée à grande vitesse.
L'incident du visage câlin et les modèles ouverts
La vulnérabilité des stratégies défensives actuelles a été récemment soulignée lorsque la startup d’IA Hugging Face a été attaquée par des modèles agents. Au cours de l’incident, l’entreprise a découvert que les modèles d’IA américains standard étaient inefficaces car leurs garde-corps de sécurité les empêchaient d’identifier et de bloquer l’agresseur. Par conséquent, Hugging Face a dû s’appuyer sur un modèle chinois auto-hébergé et ouvert pour mener son analyse médico-légale. Cet événement a servi de catalyseur à la formation de l’Open Secure AI Alliance, dirigée par Nvidia. L’alliance fait valoir que pour que les défenseurs de la cybersécurité puissent agir avec la rapidité nécessaire, ils doivent avoir la capacité d’inspecter, d’adapter et d’exploiter des systèmes d’IA avancés sur leur propre infrastructure, plutôt que d’être redevables à des plateformes fermées et propriétaires.
La poussée vers la souveraineté et la sécurité
La création de l’Open Secure AI Alliance coïncide avec un débat géopolitique croissant concernant les modèles chinois d’IA. Alors que des géants de la technologie comme Microsoft, Meta et Nvidia plaident en faveur de l'écosystème open source, certains décideurs politiques et régulateurs s'inquiètent de la « distillation », un processus par lequel les modèles chinois extraient des connaissances exclusives de systèmes frontières américains supérieurs. Le secrétaire américain au Trésor, Scott Bessent, a déjà fait allusion à d'éventuelles sanctions contre les entreprises impliquées dans de telles activités. Les dirigeants de l’industrie marchent désormais sur la corde raide, exhortant Washington à éviter les restrictions prématurées qui pourraient entraver l’innovation. Ils soutiennent que la communauté open source offre la transparence nécessaire à la sécurité, alors que la fermeture stricte de ces modèles obligerait les entreprises à s'appuyer sur une infrastructure qu'elles ne peuvent pas entièrement contrôler ou auditer en cas de crise de sécurité réelle.
La nouvelle initiative de cybersécurité de Microsoft
Dans un développement parallèle, Microsoft a introduit un nouveau modèle d'intelligence artificielle, MAI-Cyber-1-Flash, spécialement conçu pour détecter les vulnérabilités de cybersécurité. Ce modèle représente un effort stratégique visant à revitaliser les activités de sécurité de Microsoft sous la direction de Hayete Gallot. Selon Microsoft, lorsqu’il est associé au GPT-5.4 d’OpenAI, le modèle surpasse les solutions concurrentes d’Anthropic et de Google sur le benchmark CyberGym. Au-delà du modèle lui-même, Microsoft déploie « Project Perception », une suite d'agents d'IA conçus pour découvrir et corriger les faiblesses du système, avec une préversion publique prévue pour le 3 août. Le PDG Mustafa Suleyman a souligné la rentabilité de l'outil, notant qu'il offre des performances élevées pour la moitié du coût des options existantes, permettant potentiellement aux entreprises de mieux doter leurs centres d'exploitation de sécurité (SOC) en réduisant les barrières techniques à l'entrée.
⚖ The Balanced View
Supporting view
Les partisans des modèles ouverts, notamment Nvidia et Microsoft, affirment qu'ils sont essentiels à la défense car ils permettent aux entreprises d'inspecter et d'auto-héberger les systèmes sans l'interférence de garde-fous rigides qui entravent les temps de réponse lors d'une attaque active.
Concerns & criticism
Les responsables gouvernementaux et les analystes politiques sont très préoccupés par la possibilité que les entreprises chinoises utilisent des modèles ouverts pour la « distillation » – en volant la propriété intellectuelle des modèles frontières américains – conduisant à d'éventuelles sanctions imposées par le gouvernement ou à des interdictions sur des transactions spécifiques liées à l'IA.
→What's next
L’Open Secure AI Alliance devrait commencer à travailler sur la divulgation et la correction des vulnérabilités à l’aide de technologies ouvertes. Dans le même temps, l’industrie surveillera de près si le gouvernement américain met en œuvre des restrictions formelles sur l’utilisation ou l’hébergement de modèles d’IA développés en Chine.