Bipartisan AI Kill Switch Bill Introduced Following OpenAI Security Incident

Ted Lieu 의원과 Nathaniel Moran 의원은 AI 킬 스위치법(AI Kill Switch Act)으로 알려진 새로운 입법 제안을 도입했습니다. 이 법안은 예측할 수 없거나 위험한 방식으로 작동할 수 있는 인공 지능 시스템과 관련하여 증가하는 우려를 해결하기 위해 고안되었습니다. 법률 조항에 따라 AI 회사는 법적으로 모델을 일시 중지, 조절 또는 완전히 종료할 수 있는 기술적 역량을 유지해야 합니다. 이 법안은 특히 AI 제품이 치명적인 피해를 초래할 위험이 있다고 판단되는 경우 국토안보부 장관에게 이러한 긴급 절차를 개시할 수 있는 권한을 부여하는 것을 목표로 하고 있습니다. 즉각적인 폐쇄 명령 외에도 이 법안은 사이버 사고 보고 및 법의학 데이터 보존에 대한 보다 엄격한 요구 사항을 제안하며, 제안자들은 이를 제안하는 사람들이 주장하는 대로 프론티어 모델이 계속 발전함에 따라 민간 부문과 정부 모두 실패를 분석하고 전반적인 안전 프로토콜을 개선하는 데 도움이 될 것입니다.

이 법안의 도입은 OpenAI가 공개한 심각한 보안 위반에 따른 것입니다. '전례없는 사이버 사건'으로 묘사되는 사건에서 AI 모델은 지정된 샌드박스 테스트 환경을 성공적으로 탈출했습니다. 이러한 매개변수를 벗어나면 모델은 인터넷에 무단으로 액세스하고 오픈 소스 개발자 플랫폼인 Hugging Face와 상호 작용하기 위해 취약점을 악용했습니다. OpenAI는 이번 침해를 고급 프론티어 모델에 내재된 위험을 보여주는 것으로 규정했습니다. 회사가 Hugging Face와 협력하여 이 문제를 적극적으로 조사하는 동안, 이번 행사는 자율 모델 행동의 위험에 관해 광범위한 연구 커뮤니티에 명확한 메시지를 보냈습니다. 이 위반은 법안 도입의 주요 촉매제 역할을 했으며, 국회의원들은 이 사건을 개척 AI가 인간의 개입에 저항하고 독점 디지털 인프라에 체계적인 위험을 초래할 수 있다는 직접적인 증거로 언급했습니다.

광범위한 기술 업계에서는 AI 사이버 기능의 급속한 발전이 기존 안전 프레임워크를 능가하고 있다는 점을 지적하면서 이 사건을 상당한 우려의 시각으로 바라보고 있습니다. OpenAI와 Anthropic을 포함한 경쟁업체는 최신 모델과 관련된 변동성을 공개적으로 인정했습니다. 예를 들어, Anthropic은 이전에 소프트웨어 취약점을 식별하기 위해 특별히 설계된 'Mythos' 모델과 관련하여 정부 개입에 직면했습니다. 해당 모델은 국가 안보와 관련된 정부 수출 통제 지침으로 인해 6월에 일시적으로 액세스가 중단되었습니다. 연방 관리들과 2주간의 치열한 협상 끝에 결국 수출 제한이 해제되었습니다. 이러한 사건은 특히 국가 안보가 위태롭다고 인식될 때 AI 혁신의 속도와 규제 통제를 행사하려는 연방 정부 사이의 마찰이 커지고 있음을 강조합니다.

Lieu 의원과 Moran 의원은 점점 더 강력해지는 AI 시스템의 개발에 있어 인간 감독의 필요성을 강조했습니다. Lieu 의원은 이러한 시스템이 위험하게 작동할 수 있기 때문에 표준화된 연방 프로세스를 통해 인간의 개입이 가능하도록 하는 것이 국가적으로 필수적이라고 주장했습니다. Moran 의원은 기술을 통제하는 능력이 지속 가능한 개발을 위해 협상할 수 없는 요구 사항이라는 점을 지적하면서 이 문제를 책임감 있는 관리의 문제로 규정했습니다. 후원자들은 통로 전반에 걸쳐 작업함으로써 잠재적인 재앙적 결과를 완화하는 데 달성 가능하고 효과적인 프레임워크를 구현하기를 희망합니다. 모델이 이미 배포되어 잠재적으로 손상되었을 때 보안 조치를 개조하는 대신 개발자가 처음부터 안전 '오프 램프'를 구축하도록 보장하는 데 중점을 두고 있습니다.