Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

951명의 IT 의사 결정자가 참여한 CDW의 최근 연구는 많은 조직이 현재 관리할 준비가 부족한 AI 기반 사이버 위협으로의 전환을 강조합니다. 보고서에 따르면 기업의 43%가 이미 AI로 강화된 피싱 계획을 처리한 적이 있으며, 37%는 AI로 강화된 악성 코드에 직면한 적이 있습니다. 보안 전문가들이 종종 지적하듯이 침해는 가능성보다는 불가피한 것으로 점점 더 많이 인식되고 있습니다. 이러한 위협의 성격은 빠르게 변화하고 있습니다. 응답자의 8%만이 최고 위험으로 꼽은 고립된 딥페이크 시도 대신, 악의적인 행위자는 대규모로 취약점을 발견하고 악용할 수 있는 자율적이고 에이전트적인 시스템을 배포하고 있습니다. 이에 대응하여 약 41%의 기업이 새로운 고속 자동화 공격에 대응하기 위해 AI 기반 위협 탐지 시스템을 구현하려고 합니다.

최근 AI 스타트업 Hugging Face가 에이전트 모델의 공격을 받았을 때 현재 방어 전략의 취약성이 강조되었습니다. 사건 당시 회사는 표준 미국 개척지 AI 모델의 안전 가드 레일로 인해 공격자를 식별하고 차단할 수 없기 때문에 비효율적이라는 사실을 발견했습니다. 결과적으로 Hugging Face는 법의학 분석을 수행하기 위해 자체 호스팅된 개방형 중국 모델에 의존해야 했습니다. 이 행사는 Nvidia가 주도하는 Open Secure AI Alliance 형성의 촉매제가 되었습니다. 이 동맹은 사이버 보안 방어자가 필요한 속도로 행동하려면 폐쇄적이고 독점적인 플랫폼에 얽매이기보다는 자체 인프라에서 고급 AI 시스템을 검사, 조정 및 운영할 수 있는 능력이 있어야 한다고 주장합니다.

Open Secure AI Alliance의 창설은 중국 AI 모델에 대한 지정학적 논쟁이 커지는 것과 일치합니다. Microsoft, Meta, Nvidia와 같은 거대 기술 기업이 오픈 소스 생태계를 옹호하는 반면, 일부 정책 입안자와 규제 기관은 중국 모델이 우수한 미국 국경 시스템에서 독점 지식을 추출하는 프로세스인 '증류'에 대해 우려하고 있습니다. 스콧 베센트(Scott Bessent) 미국 재무장관은 이미 그러한 활동에 연루된 기업에 대한 잠재적인 제재를 암시했습니다. 업계 리더들은 이제 워싱턴에 혁신을 방해할 수 있는 조기 제한을 피하라고 촉구하면서 줄타기를 하고 있습니다. 그들은 오픈 소스 커뮤니티가 보안에 필요한 투명성을 제공하는 반면, 이러한 모델을 엄격하게 폐쇄하면 기업은 실제 보안 위기 상황에서 완전히 통제하거나 감사할 수 없는 인프라에 의존하게 될 것이라고 주장합니다.

병행 개발에서 Microsoft는 사이버 보안 취약성을 탐지하기 위해 특별히 제작된 새로운 인공 지능 모델인 MAI-Cyber-1-Flash를 도입했습니다. 이 모델은 Hayete Gallot 경영진이 이끄는 Microsoft의 보안 비즈니스를 활성화하려는 전략적 노력을 나타냅니다. Microsoft에 따르면 OpenAI의 GPT-5.4와 결합하면 이 모델은 CyberGym 벤치마크에서 Anthropic 및 Google의 경쟁 솔루션보다 성능이 뛰어납니다. 모델 자체 외에도 마이크로소프트는 시스템 약점을 발견하고 수정하도록 설계된 AI 에이전트 제품군인 'Project Perception'을 8월 3일 공개 미리보기로 선보일 예정입니다. CEO인 무스타파 술레이만(Mustafa Suleyman)은 이 도구의 비용 효율성을 강조하면서 이 도구가 기존 옵션의 절반 비용으로 고성능을 제공하므로 잠재적으로 기업이 기술 진입 장벽을 낮춤으로써 보안 운영 센터(SOC)에 더 나은 인력을 확보할 수 있게 해준다고 말했습니다.