Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

Google は今週初め、Nano Banana 2 AI 画像生成モデルを Web バージョンの Google Earth に直接統合する新機能をリリースしました。同社は当初、不動産開発や歴史的ランドマークを視覚化するためのクリエイティブなユーティリティとして位置付けていたこのツールを使用すると、ユーザーは単純なテキスト プロンプトを介して衛星画像や航空写真を操作できるようになりました。ただし、実装は短命でした。悪用の可能性に関して世間の監視が強化されてから24時間も経たない7月31日までに、テクノロジー大手はこの機能を正式に廃止した。 Googleは、より強力なガードレールを開発するためにこのツールを撤回すると述べ、一部の地理空間専門家はこの機能に有用性を見出したが、このプラットフォームはユーザーが欺瞞的な画像を生成することで会社のポリシーに違反している明らかな証拠も確認したと指摘した。

このツールの脆弱性は、システムのストレス テストを実施した Digital Digging の Henk van Ess によって強調されました。ヴァン・エス氏は、特定のプロンプトを入力することで、ガザの病院近くの爆弾クレーターやメキシコ国境沿いの難民集団など、デリケートな地政学的シナリオを描写する非常にリアルな画像を生成することに成功した。これらの実験により、悪意のある攻撃者がこのツールを利用して、現実と矛盾する説得力のある視覚的証拠を作成できることが証明されました。 Googleのシステムには有害なトピックに対する制限が含まれているというGoogleの当初の主張にもかかわらず、ヴァン・エス氏は、彼のプロンプトはAIによってブロックされたり、和らげられたり、拒否されたりしなかったと報告した。これは、意図した保護手段を事実上回避しており、高度な AI モデルであっても、地図ソフトウェアに統合すると、有害な虚偽の物語を生成するよう強制される可能性があることを示しています。

Googleは当初、技術的抑止力の存在を強調することで懸念を軽減しようとした。同社は、ツール内で生成されたすべての画像には、コンテンツが合成であることを示す SynthID 電子透かしが埋め込まれていると主張しました。彼らは、Gemini アプリや Google レンズなどの他のツールと相互参照して、疑わしい画像を検証することをユーザーに推奨しました。しかし、批評家らはこれらの対策は不十分だと主張した。 Van Ess 氏は、生成されたメディアが Hive で使用されているものを含む一般的な AI 検出ツールをバイパスできることを実証しました。さらに、電子透かしへの依存は防御策として欠陥があることが判明しています。電子透かしは見落とされたり、見落とされたり、削除される可能性があり、信頼できるデータを装った偽造衛星画像を公衆が信じる危険にさらされることになります。

この事件は、生成型 AI の責任ある導入に関してテクノロジー業界内で広範な緊張が高まっていることを浮き彫りにしました。 Googleは、ユーザーはすでにAI以外のさまざまなツールを使用してウェブ画像を操作できると主張したが、生成機能をGoogle Earthのような信頼できるプラットフォームに直接統合することで、偽情報の拡散への参入障壁が大幅に低くなるという。 Google Earth は長い間、ジャーナリスト、研究者、一般の人々にとって信頼できる情報源とみなされてきました。 AI 生成レイヤーを挿入すると、その基礎的な信頼が脅かされます。この機能の急速な廃止は、AIモデルが本物の視覚的証拠と区別するのが難しい有害で忠実度の高い捏造を頻繁に生成する可能性があるという現実と、迅速な製品革新への欲求とのバランスをとるプレッシャーを企業が感じていることを示唆している。