Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

Google เปิดตัวฟีเจอร์ใหม่เมื่อต้นสัปดาห์นี้ซึ่งรวมโมเดลการสร้างภาพ Nano Banana 2 AI เข้ากับ Google Earth เวอร์ชันเว็บโดยตรง เดิมทีบริษัทวางตำแหน่งให้เป็นยูทิลิตี้ที่สร้างสรรค์สำหรับการแสดงภาพการพัฒนาอสังหาริมทรัพย์หรือสถานที่สำคัญทางประวัติศาสตร์ เครื่องมือนี้อนุญาตให้ผู้ใช้จัดการภาพถ่ายดาวเทียมและภาพถ่ายทางอากาศผ่านข้อความแจ้งง่ายๆ อย่างไรก็ตาม การนำไปปฏิบัติมีอายุสั้น ภายในวันที่ 31 กรกฎาคม ไม่ถึง 24 ชั่วโมงหลังจากการตรวจสอบของสาธารณชนมีความเข้มข้นมากขึ้นเกี่ยวกับความเป็นไปได้ในการละเมิด ยักษ์ใหญ่ด้านเทคโนโลยีก็ถอนฟีเจอร์นี้อย่างเป็นทางการ Google ระบุว่ากำลังถอนเครื่องมือนี้ออกเพื่อพัฒนาราวกั้นที่แข็งแรงขึ้น โดยสังเกตว่าในขณะที่ผู้เชี่ยวชาญด้านภูมิสารสนเทศบางคนพบประโยชน์ใช้สอยในฟีเจอร์นี้ แพลตฟอร์มดังกล่าวยังเห็นหลักฐานที่ชัดเจนของผู้ใช้ที่ละเมิดนโยบายของบริษัทด้วยการสร้างภาพที่หลอกลวง

ช่องโหว่ของเครื่องมือนี้ได้รับการเน้นย้ำโดย Henk van Ess จาก Digital Digging ซึ่งเป็นผู้ทำการทดสอบความเครียดบนระบบ ด้วยการป้อนข้อความแจ้งที่เฉพาะเจาะจง Van Ess ประสบความสำเร็จในการสร้างภาพที่สมจริงอย่างมากซึ่งแสดงถึงสถานการณ์ทางภูมิศาสตร์การเมืองที่ละเอียดอ่อน รวมถึงหลุมระเบิดใกล้โรงพยาบาลในฉนวนกาซาและประชากรผู้ลี้ภัยที่ตั้งอยู่ตามแนวชายแดนเม็กซิโก การทดลองเหล่านี้พิสูจน์ว่านักแสดงที่เป็นอันตรายสามารถใช้ประโยชน์จากเครื่องมือนี้เพื่อสร้างหลักฐานภาพที่น่าเชื่อถือซึ่งขัดแย้งกับความเป็นจริง แม้ว่า Google จะยืนยันเบื้องต้นว่าระบบของพวกเขารวมข้อจำกัดในหัวข้อที่เป็นอันตราย Van Ess รายงานว่าคำแนะนำของเขาไม่ได้ถูกบล็อก ลดทอน หรือปฏิเสธโดย AI สิ่งนี้เลี่ยงการป้องกันที่ตั้งใจไว้ได้อย่างมีประสิทธิภาพ แสดงให้เห็นว่าแม้แต่โมเดล AI ที่ซับซ้อนก็สามารถถูกบังคับให้สร้างเรื่องราวที่สร้างความเสียหายและเป็นเท็จได้เมื่อรวมเข้ากับซอฟต์แวร์แผนที่

ในตอนแรก Google พยายามบรรเทาข้อกังวลโดยเน้นย้ำถึงการมีอยู่ของอุปสรรคทางเทคนิค บริษัทอ้างว่ารูปภาพทั้งหมดที่สร้างขึ้นภายในเครื่องมือนั้นถูกฝังด้วยลายน้ำดิจิทัล SynthID เพื่อส่งสัญญาณว่าเนื้อหานั้นเป็นเนื้อหาสังเคราะห์ พวกเขาสนับสนุนให้ผู้ใช้ยืนยันภาพที่น่าสงสัยโดยการอ้างอิงโยงกับเครื่องมืออื่นๆ เช่น แอป Gemini หรือ Google Lens อย่างไรก็ตาม นักวิจารณ์แย้งว่ามาตรการเหล่านี้ยังไม่เพียงพอ Van Ess แสดงให้เห็นว่าสื่อที่สร้างขึ้นสามารถข้ามเครื่องมือตรวจจับ AI ทั่วไปได้ รวมถึงเครื่องมือที่ Hive ใช้ด้วย นอกจากนี้ การพึ่งพาลายน้ำดิจิทัลได้พิสูจน์แล้วว่าเป็นการป้องกันที่มีข้อบกพร่อง เนื่องจากเครื่องหมายดังกล่าวสามารถพลาด มองข้าม หรืออาจลบออกได้ ส่งผลให้สาธารณชนเสี่ยงต่อการเชื่อภาพถ่ายดาวเทียมปลอมที่ปลอมแปลงเป็นข้อมูลที่เชื่อถือได้

เหตุการณ์ดังกล่าวตอกย้ำความตึงเครียดในวงกว้างในอุตสาหกรรมเทคโนโลยีที่เกี่ยวข้องกับการใช้งาน generative AI อย่างมีความรับผิดชอบ แม้ว่า Google จะแย้งว่าผู้ใช้สามารถจัดการภาพเว็บโดยใช้เครื่องมือที่ไม่ใช่ AI ต่างๆ ได้ แต่การบูรณาการความสามารถในการสร้างโดยตรงลงในแพลตฟอร์มที่เชื่อถือได้ เช่น Google Earth ช่วยลดอุปสรรคในการเข้าสู่การแพร่กระจายข้อมูลที่บิดเบือนได้อย่างมาก Google Earth ถูกมองว่าเป็นแหล่งที่เชื่อถือได้สำหรับนักข่าว นักวิจัย และสาธารณชนมานานแล้ว การแทรกเลเยอร์การสร้าง AI จะคุกคามความไว้วางใจพื้นฐานนั้น การถอนคุณลักษณะนี้ออกอย่างรวดเร็วแสดงให้เห็นว่าบริษัทต่างๆ รู้สึกกดดันที่จะสร้างสมดุลระหว่างความปรารถนาในการสร้างสรรค์นวัตกรรมผลิตภัณฑ์อย่างรวดเร็วกับความเป็นจริงที่ว่าโมเดล AI มักจะสามารถสร้างสิ่งประดิษฐ์ที่มีความเที่ยงตรงและเป็นอันตรายซึ่งยากต่อการแยกแยะจากหลักฐานที่มองเห็นได้จริง