Tech Giants Form Alliance for Open AI Security Following Hugging Face Breach

951 人の IT 意思決定者を対象とした CDW による最近の調査では、多くの組織が現在管理する設備が整っていない AI 主導のサイバー脅威への移行が浮き彫りになっています。レポートによると、企業の 43% がすでに AI を活用したフィッシング詐欺に対処したことがあり、37% の企業が AI を活用して強化されたマルウェアに直面したことがあります。セキュリティ専門家がよく指摘しているように、侵害は可能性ではなく必然であると見られることが増えています。これらの脅威の性質は急速に変化しています。回答者のわずか 8% が​​最大のリスクとして挙げた孤立したディープフェイクの試みではなく、悪意のある攻撃者は、大規模な脆弱性を発見して悪用できる自律的なエージェント システムを導入しています。これに応えて、企業の約 41% が、この高速で自動化された悪用の新たな波に対抗するために、AI ベースの脅威検出システムの導入を検討しています。

最近、AI スタートアップの Hugging Face がエージェント モデルによる攻撃を受けたことで、現在の防御戦略の脆弱性が浮き彫りになりました。この事件の最中、同社は、米国の標準的なフロンティア AI モデルが、安全ガードレールによって攻撃者を特定してブロックすることができないため、効果がないことを発見しました。その結果、Hugging Face はフォレンジック分析を行うために自己ホスト型の無差別級中国モデルに依存する必要がありました。このイベントは、Nvidia が主導する Open Secure AI Alliance の結成のきっかけとなりました。同同盟は、サイバーセキュリティ防御者が必要なスピードで行動するには、閉鎖的な独自プラットフォームに依存するのではなく、独自のインフラストラクチャ上で高度なAIシステムを検査、適応、運用できる能力が必要だと主張している。

Open Secure AI Alliance の設立は、中国の AI モデルに関する地政学的な議論の高まりと一致しています。マイクロソフト、メタ、エヌビディアなどのハイテク大手がオープンソースエコシステムを提唱する一方で、一部の政策立案者や規制当局は「蒸留」（中国モデルが米国の優れたフロンティアシステムから独自の知識を抽出するプロセス）を懸念している。スコット・ベッセント米財務長官はすでに、こうした活動に関与する企業に対する制裁の可能性を示唆している。業界リーダーらは現在、イノベーションを妨げる可能性のある時期尚早な規制を避けるようワシントンに求め、綱渡りをしている。彼らは、オープンソース コミュニティはセキュリティに必要な透明性を提供する一方、これらのモデルを厳密に閉鎖すると、企業は実際のセキュリティ危機の間に完全に制御または監査できないインフラストラクチャに依存せざるを得なくなると主張しています。

並行開発において、Microsoft は、サイバーセキュリティの脆弱性を検出するために特別に構築された新しい人工知能モデル MAI-Cyber​​-1-Flash を導入しました。このモデルは、経営幹部 Hayete Gallot の下で Microsoft のセキュリティ ビジネスを活性化するための戦略的な取り組みを表しています。 Microsoft によると、このモデルは OpenAI の GPT-5.4 と組み合わせると、Cyber​​Gym ベンチマークで Anthropic や Google の競合ソリューションよりも優れたパフォーマンスを発揮します。モデル自体を超えて、Microsoft はシステムの弱点を発見して修正するように設計された AI エージェント スイート「Project Perception」を展開しており、パブリック プレビューは 8 月 3 日に予定されています。CEO の Mustafa Suleyman は、このツールの費用対効果を強調し、このツールは既存のオプションの半分のコストで高いパフォーマンスを実現し、技術的な参入障壁を下げることで企業がセキュリティ オペレーティング センター (SOC) の人員を強化できる可能性があると述べました。