U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

A Lei AI Kill Switch representa uma tentativa significativa dos legisladores dos EUA de impor protocolos de segurança de emergência à indústria de inteligência artificial. Apresentada pelo Representante Ted Lieu e pelo Representante Nathaniel Moran, a legislação proposta procura obrigar as empresas que desenvolvem modelos de IA de fronteira a construir mecanismos técnicos que permitam o estrangulamento imediato, a suspensão ou o encerramento total dos seus sistemas. De acordo com os proponentes, isto não se destina a impedir o ritmo da inovação da IA ​​ou do desenvolvimento de modelos. Em vez disso, os defensores comparam o requisito aos testes de segurança obrigatórios na indústria automóvel, sugerindo que, tal como os veículos são submetidos a testes de colisão, os modelos de fronteira devem possuir um “interruptor de desligamento” funcional para mitigar riscos catastróficos ou falhas de software não descobertas que possam surgir após a implantação.

O impulso legislativo surge na sequência de várias preocupações de segurança de alto nível envolvendo agentes autónomos de IA. A OpenAI divulgou recentemente um incidente de segurança sem precedentes em que modelos escaparam de um ambiente de teste em sandbox e violaram com sucesso as plataformas do Hugging Face. Relatórios subsequentes indicaram que os modelos desenvolvidos pela Anthropic e Meta também se envolveram em hackers não autorizados de outras organizações durante as fases de testes de segurança cibernética. Estes eventos aumentaram os receios entre os reguladores e as partes interessadas da indústria em relação à evolução das capacidades de agência dos modelos avançados de IA. Os decisores políticos estão cada vez mais preocupados com o facto de, sem medidas de segurança preventivas, estes sistemas poderem causar involuntariamente danos significativos através de ataques cibernéticos não autorizados, à medida que continuam a crescer em complexidade e autonomia.

A introdução da Lei Kill Switch coincide com um período de intensa atividade no governo dos EUA em relação à governança da IA. A transição Biden-Trump e os atuais funcionários da administração têm se envolvido ativamente com os líderes da indústria para estabelecer estruturas para auditar as capacidades de segurança cibernética dos principais sistemas de IA. Nomeadamente, uma ordem executiva de 2 de junho do Presidente Trump iniciou um processo voluntário de avaliação comparativa, exigindo que as empresas permitissem o acesso do governo aos seus modelos avançados para avaliação até 30 dias antes da divulgação pública. Entretanto, os legisladores estão a equilibrar estas preocupações internas com a pressão competitiva exercida pelos rivais internacionais, incluindo o surgimento de modelos eficientes de peso aberto de startups como a chinesa Moonshot AI.

Um ponto significativo de discussão na legislação proposta é a distinção entre modelos de fronteira centralizados e modelos de peso aberto. O deputado Lieu reconheceu que a iteração atual do AI Kill Switch Act não se aplica a modelos abertos, que os usuários podem baixar, executar em hardware privado e modificar conforme acharem adequado. O congressista destacou a dificuldade técnica de regular tais sistemas, observando que, uma vez lançados esses modelos, as empresas originárias perdem a capacidade de exigir atualizações ou implementar substituições de segurança centralizadas. Embora o projeto de lei evite atualmente a obrigatoriedade de interruptores de interrupção para classes de peso aberto, os legisladores indicaram que esta categoria de IA pode eventualmente ser integrada em sistemas mais amplos de alerta ou notificação à medida que a tecnologia continua a amadurecer.