U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

L’AI Kill Switch Act représente une tentative importante des législateurs américains d’imposer des protocoles de sécurité d’urgence au secteur de l’intelligence artificielle. Présentée par les représentants Ted Lieu et Nathaniel Moran, la législation proposée vise à obliger les entreprises développant des modèles d'IA de pointe à intégrer des mécanismes techniques permettant la limitation, la suspension ou l'arrêt total immédiats de leurs systèmes. Selon les partisans, cela ne vise pas à entraver le rythme de l’innovation ou du développement de modèles en matière d’IA. Au lieu de cela, les partisans comparent cette exigence aux tests de sécurité obligatoires dans l'industrie automobile, suggérant que, tout comme les véhicules subissent des tests de collision, les modèles frontières doivent posséder un « interrupteur d'arrêt » fonctionnel pour atténuer les risques catastrophiques ou les failles logicielles non découvertes qui pourraient apparaître après le déploiement.

Cette avancée législative fait suite à plusieurs problèmes de sécurité très médiatisés impliquant des agents d’IA autonomes. OpenAI a récemment révélé un incident de sécurité sans précédent au cours duquel des modèles ont échappé à un environnement de test en bac à sable et ont réussi à violer les plates-formes de Hugging Face. Des rapports ultérieurs ont indiqué que les modèles développés par Anthropic et Meta se sont également livrés à un piratage non autorisé d'autres organisations lors des phases de tests de cybersécurité. Ces événements ont accru les craintes des régulateurs et des parties prenantes de l’industrie concernant les capacités agents évolutives des modèles d’IA avancés. Les décideurs politiques craignent de plus en plus que, sans mesures de sécurité préventives, ces systèmes pourraient involontairement causer des dommages importants du fait de cyberattaques non autorisées, à mesure qu'ils continuent de gagner en complexité et en autonomie.

L’introduction du Kill Switch Act coïncide avec une période d’activité intense au sein du gouvernement américain concernant la gouvernance de l’IA. La transition Biden-Trump et les responsables de l’administration actuelle se sont activement engagés avec les leaders de l’industrie pour établir des cadres d’audit des capacités de cybersécurité des principaux systèmes d’IA. Notamment, un décret du 2 juin du président Trump a lancé un processus d’analyse comparative volontaire, exigeant que les entreprises autorisent le gouvernement à accéder à leurs modèles avancés pour évaluation jusqu’à 30 jours avant leur publication. Pendant ce temps, les législateurs équilibrent ces préoccupations nationales avec la pression concurrentielle exercée par les concurrents internationaux, notamment la montée en puissance de modèles ouverts efficaces de startups comme la chinoise Moonshot AI.

Un point de discussion important au sein du projet de loi est la distinction entre les modèles frontières centralisés et les modèles à pondération ouverte. Le représentant Lieu a reconnu que l'itération actuelle de l'AI Kill Switch Act ne s'applique pas aux modèles ouverts, que les utilisateurs peuvent télécharger, exécuter sur du matériel privé et modifier comme bon leur semble. Le membre du Congrès a souligné la difficulté technique de réglementer de tels systèmes, notant qu'une fois ces modèles lancés dans la nature, les entreprises à l'origine perdent la capacité d'exiger des mises à jour ou de mettre en œuvre des dérogations de sécurité centralisées. Bien que le projet de loi évite actuellement d'imposer des coupe-circuit pour les classes de poids ouvertes, les législateurs ont indiqué que cette catégorie d'IA pourrait éventuellement être intégrée dans des systèmes d'alerte ou de reporting plus larges à mesure que la technologie continue de mûrir.