European Union Mandates Labels for Realistic AI-Generated Content

欧州連合は 8 月 2 日より、見た目や音が本物に見えるように設計された人工知能コンテンツに対する厳格なラベル表示義務を施行します。この地域の包括的な AI 法に由来するこのポリシーでは、生成された画像、音声、テキストに電子透かしを入れることが義務付けられています。この法案の主要な交渉者であるEU議会議員セルゲイ・ラゴディンスキーは、この義務は民主主義の安定を維持し、オンライン情報の信頼性を維持するための重要な措置であると述べた。規制は広範ですが、特定のカーブアウトも含まれています。カジュアルなグループチャットの交換などの個人的な使用は引き続き免除されます。さらに、創造的表現の重要性を認識し、芸術的、風刺的、またはフィクションとして明確に分類されたコンテンツは、これらの義務的な表示要件の対象にはなりません。

規制上の負担は、対象となるテクノロジーの成熟度によって異なります。欧州市場で発売される新しい AI システムは、8 月 2 日の期限直後にラベル基準に準拠する必要があります。逆に、すでに運用中のシステムには、プロトコルを更新してコンプライアンスを達成するために 4 か月の猶予期間が与えられます。組織はこれらの開示の表示に関して柔軟性を持っています。 EU は標準化された白黒ラベルを開発しましたが、規制の意図を満たす限り、企業は独自の指標を設計することが許可されています。この執行メカニズムは重要であり、罰金は企業の総収益の最大3パーセントに達する可能性があり、EUが高レベルの企業説明責任を優先する意向を示している。

主要なソーシャルメディアプラットフォームはすでに何らかの形でAIの開示を導入し始めているが、新たな義務により、合成メディアが目立たない分野での合成メディアの普及が明らかになると予想されている。 Computer and Communications Industry Association の AI 政策専門家、Boniface de Champris 氏は、広告、専門出版、映画制作などの分野における AI 統合の規模の大きさに一般の人々が驚くかもしれないと強調しました。既存の自主的な取り組みは、しばしば矛盾していることが判明しています。たとえば、TikTok では合成コンテンツにラベルを付けるようクリエイターに求めているにもかかわらず、AI によって生成された医療専門家が疑わしい健康上のアドバイスを提供する動画など、誤解を招く動画はこうしたモデレーション システムをバイパスすることがよくあります。その結果、EU の使命は、これらの異なる政策を統一した法的枠組みに調和させることを目指しています。

義務表示への移行は、大手テクノロジー企業が開発した既存の技術インフラによってサポートされています。たとえば、Google は自社の SynthID プラットフォームを活用して、広範な資産ライブラリにタグを付け、1,000 億を超える画像と 60,000 年分の再生に相当する大量のオーディオ コンテンツをカバーしていると報告されています。同様に、Meta は、フォトリアリスティックな AI 画像を識別してタグ付けすることを目的とした内部ポリシーを確立しました。ただし、これらのツールはすべての欺瞞的なコンテンツの流通を阻止するのに必ずしも十分ではないため、その有効性については依然として精査の余地があります。 EU の新しい要件は、これらの検出の取り組みを効果的に成文化し、かつては企業内での一連の取り組みであったものを、欧州市場全体で標準化された法的必要性に変えることになります。