Nvidia와 27개 기술 회사 연합은 오픈 소스 방어 사이버 보안 도구를 발전시키기 위해 Open Secure AI Alliance를 구성했습니다. 이 그룹은 폐쇄형 상업 모델이 회사 방어에 도움이 되지 못한 최근 Hugging Face에 대한 악의적인 공격과 유사한 향후 사건으로부터 비즈니스를 보호하려고 합니다.
오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 출범
인공 지능 시대에 사이버 보안을 재편하기 위한 전략적 움직임으로 Nvidia는 Open Secure AI Alliance의 창설을 주도했습니다. 이 연합에는 Microsoft, Dell, SpaceX, Linux Foundation 및 IBM과 같은 주요 업체를 포함하여 27개의 영향력 있는 기술 조직이 함께 모였습니다. 이 동맹은 Linux Foundation의 Akrites 이니셔티브와 OpenSSF 커뮤니티의 기본 노력을 직접 기반으로 기존 오픈 소스 프레임워크를 활용하도록 구성되었습니다. 동맹의 주요 목적은 소프트웨어 취약점을 공개하고 해결하기 위한 보다 효과적이고 협력적인 방법을 확립하는 것입니다. 이 그룹은 리소스와 전문 지식을 통합함으로써 중요한 대응 노력 중에 기존의 폐쇄 소스 보안 조치가 불충분하거나 지나치게 제한적일 수 있는 점점 더 복잡해지는 디지털 위협 환경을 탐색하는 데 필요한 방어 도구를 조직에 제공하는 것을 목표로 합니다.
포옹 얼굴 사건과 모델 제약
이 동맹의 형성은 악성 사이버 공격에 직면한 스타트업 Hugging Face와 관련된 중대한 보안 사고로 인해 직접적으로 촉진되었습니다. Hugging Face는 무단 활동을 감지하고 격퇴하기 위해 선도적인 상용 비공개 소스 프론티어 AI 모델을 활용하려고 시도했을 때 모델의 안전 가드레일이 효과가 없다는 사실을 발견했습니다. 이러한 시스템은 공격자와 방어자를 구분할 수 없기 때문에 플랫폼의 포렌식 분석 요청이 반복적으로 거부되었습니다. 이로 인해 엔지니어링 팀은 자체 호스팅 개방형 모델, 특히 GLM 5.2 시스템으로 전환해야 했습니다. 자체 인프라에서 이 개방형 대안을 실행함으로써 Hugging Face는 17,000개 이상의 개별 작업을 성공적으로 분석하고 침입을 억제했습니다. 이 경험은 동맹 회원들이 실제적인 진실이라고 설명하는 내용을 강조했습니다. 즉, 방어자가 AI 소프트웨어를 자신의 방식에 맞게 검사하고 조정할 능력이 부족하면 위험이 큰 긴급 상황에 대응할 수 있는 능력이 심각하게 저하된다는 것입니다.
기여 및 협력 목표
동맹의 창립 구성원은 생태계를 강화하기 위해 전문 자산을 기부하기로 약속했습니다. Nvidia는 고급 사이버 보안 도구의 생성을 가속화하도록 설계된 개방형 모델, 포괄적인 가중치, 데이터 세트 및 새로운 에이전트 하네스를 제공하고 있습니다. Hewlett Packard Enterprise(HPE)는 AI 에이전트 및 서비스의 암호화 검증을 용이하게 하는 표준을 개발하여 자동화된 시스템에 대한 더 큰 신뢰와 책임을 보장하는 임무를 맡고 있습니다. 또한 Hugging Face는 AI 모델 가중치를 저장하기 위해 특별히 설계된 보안 형식인 Safetensors를 제공하고 있습니다. 동맹은 정부가 개방형 AI 인프라를 책임이 아닌 국가 방어 자산으로 취급할 것을 적극적으로 촉구하고 있습니다. 그들은 개방형 프론티어 모델에 포괄적인 제한을 가하는 것은 역효과를 낳을 수 있으며, 업계의 광범위한 보안 요구 사항을 충족하지 못할 수 있는 소규모 독점 AI 제공업체 그룹에 상당한 권한을 집중시키면서 방어 능력을 효과적으로 제한할 수 있다고 주장합니다.
규제 긴장과 중국 AI 모델
이 계획은 중국이 개발한 AI 모델의 역할에 관해 워싱턴에서 더욱 광범위하고 격렬한 논쟁이 벌어지고 있는 가운데 나온 것입니다. 현재 트럼프 행정부와 여러 국회의원들은 미국 모델보다 개방적이고 가격이 저렴한 이러한 모델에 대한 엄격한 금지 또는 제한을 고려하고 있습니다. 비평가들은 모델을 사용하여 보다 정교한 시스템에서 민감한 지식을 추출하는 지적 재산 도용과 '증류' 공격에 대해 우려를 표명하는 반면, 새로운 동맹 구성원들은 그러한 조치가 국내 혁신을 저해할 수 있다고 우려합니다. Nvidia, Microsoft, Meta 등이 최근 서명한 서한에서는 개방형 시스템에 대한 조기 제한이 해외 개발을 주도할 위험이 있다고 경고합니다. 외교협회(Council on Foreign Relations)의 크리스 맥과이어(Chris McGuire) 같은 전문가들은 개방형 시스템과 폐쇄형 시스템 사이의 본질적인 이념적 싸움보다는 중국 IP 도용 방지에 초점을 맞춘 국가 안보 초점으로 논의가 옮겨가고 있다고 지적합니다. 그러나 동맹에서는 규제 여파로 인해 글로벌 오픈 소스 커뮤니티가 의도치 않게 피해를 입을 수 있다는 점을 여전히 우려하고 있습니다.
⚖ The Balanced View
Supporting view
Nvidia와 Microsoft를 포함한 지지자들은 개방형 모델을 통해 조직이 타사 가드레일에 의해 차단되지 않고 위협에 대응하기 위해 로컬로 시스템을 검사, 수정 및 호스팅할 수 있으므로 개방형 모델이 필수적인 방어 자산이라고 주장합니다.
Concerns & criticism
정책 입안자들과 국가 안보 전문가들은 중국산 오픈 소스 모델이 지적 재산 도용에 활용되거나 외국 행위자가 미국의 첨단 기술에서 정보를 추출할 수 있는 수단을 제공할 수 있다는 우려를 표명했습니다.
→What's next
Open Secure AI Alliance는 공유 개방형 AI 인프라에 대한 투자를 촉진하기 위해 정부와 협력할 계획입니다. 동시에, 그룹은 개방형 프론티어 모델의 가용성과 개발을 제한할 수 있는 법안을 방지하기 위해 정책 입안자들에게 계속 로비할 것입니다.