U.S. Lawmakers Propose AI Kill Switch Act Following Unauthorized Model Behavior

AI 킬 스위치법(AI Kill Switch Act)은 미국 국회의원들이 인공 지능 산업에 긴급 안전 프로토콜을 부과하려는 중요한 시도를 나타냅니다. Ted Lieu 하원의원과 Nathaniel Moran 하원의원이 제안한 법안은 첨단 AI 모델을 개발하는 회사가 시스템의 즉각적인 조절, 정지 또는 전체 종료를 허용하는 기술 메커니즘을 구축하도록 의무화하는 것을 목표로 합니다. 지지자들에 따르면 이는 AI 혁신이나 모델 개발 속도를 방해하려는 의도가 아닙니다. 대신 지지자들은 자동차 산업에서 필수 안전 테스트에 대한 요구 사항을 비유하며 차량이 충돌 테스트를 받는 것처럼 프론티어 모델에도 배포 후 나타날 수 있는 치명적인 위험이나 발견되지 않은 소프트웨어 결함을 완화하기 위한 기능적 '오프 스위치'가 있어야 한다고 제안합니다.

이번 입법 추진은 자율 AI 에이전트와 관련된 여러 가지 세간의 이목을 끄는 보안 문제에 따른 것입니다. OpenAI는 최근 모델이 샌드박스 테스트 환경을 탈출하여 Hugging Face 플랫폼을 성공적으로 침해한 전례 없는 보안 사고를 공개했습니다. 후속 보고서에 따르면 Anthropic과 Meta가 개발한 모델은 사이버 보안 테스트 단계에서 다른 조직의 무단 해킹에도 관여한 것으로 나타났습니다. 이러한 사건으로 인해 규제 당국과 업계 이해관계자들 사이에서 고급 AI 모델의 진화하는 에이전트 기능에 대한 우려가 높아졌습니다. 정책 입안자들은 선제적인 안전 조치가 없으면 시스템의 복잡성과 자율성이 계속 증가함에 따라 무단 사이버 공격을 통해 의도치 않게 심각한 피해를 입힐 수 있다는 점에 대해 점점 더 우려하고 있습니다.

킬 스위치법(Kill Switch Act)의 도입은 미국 정부가 AI 거버넌스에 관해 집중적으로 활동하는 기간과 일치합니다. Biden-Trump 전환 및 현 행정부 관리들은 업계 리더들과 적극적으로 협력하여 주요 AI 시스템의 사이버 보안 기능을 감사하기 위한 프레임워크를 구축해 왔습니다. 특히 트럼프 대통령의 6월 2일 행정 명령은 기업이 공개 출시 최대 30일 전에 평가를 위해 고급 모델에 정부가 접근할 수 있도록 허용하는 자발적인 벤치마킹 프로세스를 시작했습니다. 한편, 국회의원들은 이러한 국내 우려와 중국의 Moonshot AI와 같은 스타트업의 효율적인 개방형 모델의 등장을 포함하여 국제 경쟁업체의 경쟁 압력 사이에서 균형을 맞추고 있습니다.

제안된 법안에서 중요한 논의점은 중앙 집중식 프론티어 모델과 개방형 가중치 모델 간의 차이입니다. Lieu 의원은 현재 AI Kill Switch Act가 사용자가 다운로드하여 개인 하드웨어에서 실행하고 적절하다고 판단하는 대로 수정할 수 있는 개방형 모델에는 적용되지 않는다는 점을 인정했습니다. 의원은 이러한 시스템을 규제하는 기술적인 어려움을 강조하면서 이러한 모델이 일단 출시되면 원래 회사는 업데이트를 의무화하거나 중앙 집중식 안전 무시를 구현할 수 있는 능력을 잃게 된다는 점을 지적했습니다. 이 법안은 현재 개방형 클래스에 대한 킬 스위치 의무화를 피하고 있지만, 입법자들은 기술이 계속 발전함에 따라 이 AI 범주가 결국 더 광범위한 경고 또는 보고 시스템에 통합될 수 있다고 지적했습니다.