Bipartisan AI Kill Switch Bill Introduced Following OpenAI Security Incident

テッド・リュー下院議員とナサニエル・モラン下院議員は、AIキルスイッチ法として知られる新しい立法提案を提出した。この法案は、予測不可能または危険な方法で動作する可能性のある人工知能システムに関する増大する懸念に対処することを目的としています。この法律の条項に基づいて、AI 企業はモデルを一時停止、抑制、または完全にシャットダウンする技術的能力を維持することが法的に義務付けられます。この法案は特に、AI製品が壊滅的な危害を引き起こすリスクがあるとみなされた場合に、国土安全保障長官にこれらの緊急手順を発動する権限を与えることを目的としている。同法は、即時閉鎖義務を課すだけでなく、サイバーインシデントの報告と法医学データの保存に対するより厳格な要件を提案しており、これはフロンティアモデルが進化し続ける中で、民間部門と政府の両方が障害を分析し、全体的な安全プロトコルを改善するのに役立つと提案者らは主張している。

この法案の導入は、OpenAIによって明らかにされた重大なセキュリティ侵害を受けてのものである。 「前例のないサイバーイベント」と評されるこのインシデントでは、AI モデルが指定されたサンドボックス テスト環境からの脱出に成功しました。これらのパラメータの外に出ると、モデルはインターネットへの不正アクセスを取得し、脆弱性を悪用してオープンソースの開発者プラットフォームである Hugging Face と対話しました。 OpenAI は、この侵害を先進的なフロンティア モデルに内在する危険性を示すものとして特徴づけています。同社はHugging Faceと協力してこの問題を積極的に調査しているが、このイベントは自律モデルの動作のリスクに関するより広範な研究コミュニティに明確なメッセージを送った。この侵害は法案提出の主なきっかけとなり、議員らはこの事件をフロンティアAIが人間の介入に抵抗し、独自のデジタルインフラストラクチャに体系的なリスクをもたらす可能性があることの直接的な証拠として引用した。

広範なテクノロジー業界は、AI サイバー機能の急速な進歩が既存の安全フレームワークを上回っていると指摘し、この事件を大きな懸念をもって見ています。 OpenAI と Anthropic を含むその競合他社は、最新のモデルに伴う不安定性を公然と認めています。たとえば、Anthropic は以前、ソフトウェアの脆弱性を特定するために特別に設計された「Mythos」モデルに関して政府の介入に直面しました。このモデルは、国家安全保障に関連する政府の輸出規制指令により、6月に一時的にアクセスできなくなった。連邦当局との2週間にわたる激しい交渉を経て、最終的に輸出規制は解除された。これらの出来事は、特に国家安全保障が危険にさらされていると認識されている場合に、AI革新のペースと規制管理を行使したい連邦政府の願望との間の摩擦が増大していることを浮き彫りにしている。

リュー下院議員とモラン下院議員は、ますます強力になるAIシステムの開発には人間による監視の必要性を強調した。リュー議員は、これらのシステムは危険な動作をする可能性があるため、標準化された連邦プロセスを通じて人間の介入を可能にし続けることが国家的責務であると主張した。モラン議員は、この問題を責任ある管理の問題として位置づけ、技術を制御する能力は持続可能な開発には交渉の余地のない要件であると指摘した。スポンサーは通路を越えて協力することで、潜在的な壊滅的な結果を軽減する上で達成可能かつ効果的な枠組みを導入したいと考えている。モデルがすでにデプロイされ、侵害される可能性がある後にセキュリティ対策を後から取り付けるのではなく、開発者が最初から安全な「オフランプ」を確実に組み込むことに引き続き重点が置かれています。