Nvidia とテクノロジー企業 27 社の連合は、オープンソースの防御的サイバーセキュリティ ツールを推進するために Open Secure AI Alliance を結成しました。このグループは、非公開の商用モデルでは会社を守ることができなかった最近のハギングフェイスに対する不正な攻撃と同様の将来の事件から企業を守ることを目指しています。
Open Secure AI Alliance の発足
人工知能時代のサイバーセキュリティを再構築する戦略的取り組みにおいて、Nvidia は Open Secure AI Alliance の設立の先頭に立ってきました。この連合には、Microsoft、Dell、SpaceX、The Linux Foundation、IBM などの主要企業を含む 27 の影響力のあるテクノロジー組織が集結します。この提携は、Linux Foundation の Akrites イニシアチブと OpenSSF コミュニティの基礎的な取り組みに直接基づいて、既存のオープンソース フレームワークを活用するように構成されています。この提携の主な目的は、ソフトウェアの脆弱性を開示して修復するための、より効果的で協力的な方法を確立することです。このグループは、リソースと専門知識を結集することで、従来のクローズドソースのセキュリティ対策が重要な対応作業中に不十分または過度に制限的であることが判明する可能性がある、ますます複雑化するデジタル脅威の状況に対処するために必要な防御ツールを組織に提供することを目指しています。
顔の抱き合い事件とモデルの制約
この提携の結成は、スタートアップの Hugging Face が不正なサイバー攻撃に直面した重大なセキュリティ インシデントが直接のきっかけとなりました。 Hugging Face が、不正なアクティビティを検出して撃退するために、主要な商用のクローズドソース フロンティア AI モデルを利用しようとしたところ、モデルの安全ガードレールが効果を発揮しないことが判明しました。これらのシステムは攻撃者と防御者を区別できなかったため、プラットフォームのフォレンジック分析リクエストは繰り返し拒否されました。このため、エンジニアリング チームは、セルフホスト型のオープンウェイト モデル、特に GLM 5.2 システムに軸足を移すことを余儀なくされました。このオープンな代替手段を独自のインフラストラクチャ上で実行することにより、Hugging Face は 17,000 を超える個別のアクションを分析し、侵入を阻止することに成功しました。この経験は、同盟メンバーが実際的な真実として述べていることを浮き彫りにしました。防御側に AI ソフトウェアを検査して適応させる能力が欠けていると、一か八かの緊急事態に対応する能力が大幅に妨げられます。
貢献と共同の目標
アライアンスの創設メンバーは、エコシステムを強化するために専門的な資産を提供することに取り組んできました。 Nvidia は、高度なサイバーセキュリティ ツールの作成を加速するように設計されたオープン モデル、包括的な重み付け、データセット、および新しいエージェント ハーネスを提供しています。 Hewlett Packard Enterprise (HPE) は、AI エージェントとサービスの暗号検証を容易にし、自動化システムにおける信頼性と説明責任を強化するための標準を開発する任務を負っています。さらに、Hugging Face は、AI モデルの重みを保存するために特別に設計された安全な形式である Safetensors に貢献しています。この同盟は、オープン AI インフラストラクチャを負債ではなく国家防衛資産として扱うよう政府に積極的に求めています。彼らは、オープンウェイトのフロンティアモデルに包括的な制限を課すことは逆効果であり、事実上防御能力を制限しながら、業界の広範なセキュリティニーズに応えられない可能性がある少数の独自のAIプロバイダーに大きな権力を集中させることになると主張している。
規制上の緊張と中国の AI モデル
この構想は、中国が開発した AI モデルの役割に関してワシントンで広範かつ激化する議論の中で発表された。現在、トランプ政権とさまざまな議員は、これらのモデルの厳格な禁止または制限を検討しているが、多くの場合、オープンウェイトで米国のモデルよりも安価である。批評家らは知的財産の盗難や「蒸留」攻撃（より高度なシステムから機密情報を抽出するためにモデルが使用される）について懸念を表明しているが、新同盟のメンバーはそのような措置が国内のイノベーションを抑制する可能性があると懸念している。 Nvidia、Microsoft、Meta などが署名した最近の書簡では、オープンウェイト システムに対する時期尚早な制限は海外での開発を促進するリスクがあると警告しています。外交問題評議会のクリス・マクガイアのような専門家は、議論はオープンシステムとクローズドシステム間の固有のイデオロギー闘争ではなく、中国の知的財産盗難の防止を中心とした国家安全保障に焦点を当てていると指摘している。しかし、アライアンスは、規制の影響が世界のオープンソース コミュニティに不用意な損害を与える可能性があることを引き続き懸念しています。
⚖ The Balanced View
Supporting view
Nvidia や Microsoft などの支持者は、オープン モデルを使用すると、組織がサードパーティのガードレールにブロックされることなく脅威に対応するためにシステムをローカルで検査、変更、ホストできるため、オープン モデルは不可欠な防御資産であると主張しています。
Concerns & criticism
政策立案者や国家安全保障の専門家は、中国が構築したオープンソースモデルの台頭に懸念を表明し、知的財産の窃盗に利用されたり、外国の攻撃者が米国の先進技術から情報を抽出する手段を提供したりする可能性を懸念している。
→What's next
Open Secure AI Alliance は、共有オープン AI インフラストラクチャへの投資を促進するために政府と連携する予定です。同時に、同グループは、無差別重量フロンティアモデルの入手と開発を制限する可能性のある法律を阻止するよう政策立案者に働きかけを続ける予定である。