Nvidia et une coalition de 27 entreprises technologiques ont formé l’Open Secure AI Alliance pour faire progresser les outils de cybersécurité défensifs open source. Le groupe cherche à protéger les entreprises contre de futurs incidents similaires à la récente attaque malveillante contre Hugging Face, où des modèles commerciaux fermés n'ont pas contribué à la défense de l'entreprise.
Le lancement de l’Open Secure AI Alliance
Dans le cadre d’une démarche stratégique visant à remodeler la cybersécurité à l’ère de l’intelligence artificielle, Nvidia a été le fer de lance de la création de l’Open Secure AI Alliance. Cette coalition rassemble 27 organisations technologiques influentes, dont des acteurs majeurs comme Microsoft, Dell, SpaceX, The Linux Foundation et IBM. L'alliance est structurée pour tirer parti des frameworks open source existants, en s'appuyant directement sur les efforts fondamentaux de l'initiative Akrites de la Linux Foundation et de la communauté OpenSSF. L'objectif principal de l'alliance est d'établir des méthodes collaboratives plus efficaces pour divulguer et corriger les vulnérabilités logicielles. En mettant en commun ses ressources et son expertise, le groupe vise à fournir aux organisations les outils défensifs nécessaires pour naviguer dans des paysages de menaces numériques de plus en plus complexes, où les mesures de sécurité traditionnelles et fermées peuvent s'avérer insuffisantes ou trop restrictives lors des efforts de réponse critiques.
L'incident du visage câlin et les contraintes du modèle
La formation de cette alliance a été directement catalysée par un incident de sécurité important impliquant la startup Hugging Face, qui a fait face à une cyberattaque malveillante. Lorsque Hugging Face a tenté d’utiliser les principaux modèles commerciaux d’IA frontaliers à source fermée pour détecter et repousser les activités non autorisées, il a constaté que les garde-corps de sécurité des modèles les rendaient inefficaces. Parce que ces systèmes ne pouvaient pas faire la distinction entre l'attaquant et le défenseur, les demandes d'analyse médico-légale de la plateforme ont été refusées à plusieurs reprises. Cela a obligé l’équipe d’ingénierie à se tourner vers des modèles auto-hébergés et ouverts, en particulier le système GLM 5.2. En exécutant cette alternative ouverte sur sa propre infrastructure, Hugging Face a réussi à analyser plus de 17 000 actions distinctes et à contenir l’intrusion. Cette expérience a mis en évidence ce que les membres de l’alliance décrivent comme une vérité pratique : lorsque les défenseurs n’ont pas la capacité d’inspecter et d’adapter les logiciels d’IA selon leurs propres conditions, leur capacité à réagir lors de situations d’urgence à enjeux élevés est gravement entravée.
Contributions et objectifs de collaboration
Les membres fondateurs de l'alliance se sont engagés à apporter des actifs spécialisés pour renforcer l'écosystème. Nvidia propose des modèles ouverts, des pondérations complètes, des ensembles de données et de nouveaux harnais d'agents conçus pour accélérer la création d'outils de cybersécurité avancés. Hewlett Packard Enterprise (HPE) est chargé de développer des normes pour faciliter la vérification cryptographique des agents et services d'IA, garantissant ainsi une plus grande confiance et une plus grande responsabilité dans les systèmes automatisés. De plus, Hugging Face propose Safetensors, un format sécurisé spécialement conçu pour stocker les poids des modèles d'IA. L’alliance appelle activement les gouvernements à considérer l’infrastructure ouverte d’IA comme un atout défensif national plutôt que comme un handicap. Ils soutiennent qu’imposer des restrictions générales sur les modèles frontières ouverts serait contre-productif, limitant de fait les capacités défensives tout en concentrant un pouvoir important au sein d’un petit groupe de fournisseurs d’IA propriétaires qui ne répondent peut-être pas aux besoins de sécurité plus larges du secteur.
Tensions réglementaires et modèles d’IA chinois
L’initiative intervient au milieu d’un débat plus large et qui s’intensifie à Washington concernant le rôle des modèles d’IA développés par la Chine. Actuellement, l’administration Trump et divers législateurs envisagent d’interdire ou de limiter strictement ces modèles, qui sont souvent ouverts et moins chers que leurs homologues américains. Alors que les critiques expriment leurs inquiétudes concernant le vol de propriété intellectuelle et les attaques par « distillation » (où des modèles sont utilisés pour extraire des connaissances sensibles de systèmes plus sophistiqués), les membres de la nouvelle alliance craignent que de telles mesures n'étouffent l'innovation nationale. Une lettre récente signée par Nvidia, Microsoft, Meta et d'autres prévient que des restrictions prématurées sur les systèmes à poids ouvert risquent de stimuler le développement à l'étranger. Des experts comme Chris McGuire du Council on Foreign Relations notent que le débat s’oriente désormais vers la sécurité nationale, centré sur la prévention du vol de propriété intellectuelle par les Chinois plutôt que sur une bataille idéologique inhérente entre systèmes ouverts et fermés. L'alliance reste toutefois préoccupée par le fait que les retombées de la réglementation pourraient nuire par inadvertance à la communauté open source mondiale.
⚖ The Balanced View
Supporting view
Les partisans, dont Nvidia et Microsoft, soutiennent que les modèles ouverts constituent des atouts défensifs essentiels, car ils permettent aux organisations d'inspecter, de modifier et d'héberger des systèmes localement pour répondre aux menaces sans être bloquées par des garde-fous tiers.
Concerns & criticism
Les décideurs politiques et les experts en sécurité nationale expriment leur inquiétude face à la montée en puissance des modèles open source construits en Chine, craignant qu'ils puissent être utilisés à des fins de vol de propriété intellectuelle ou fournir un moyen permettant à des acteurs étrangers d'extraire des renseignements à partir de technologies américaines avancées.
→What's next
L’Open Secure AI Alliance a l’intention de se coordonner avec les gouvernements pour favoriser les investissements dans une infrastructure d’IA ouverte et partagée. Simultanément, le groupe continuera de faire pression sur les décideurs politiques pour empêcher une législation qui pourrait restreindre la disponibilité et le développement de modèles frontières à poids ouvert.