Google Withdraws Google Earth AI Image Generator Following Misinformation Concerns

Google đã ra mắt một tính năng mới vào đầu tuần này, tích hợp mô hình tạo hình ảnh AI Nano Banana 2 trực tiếp vào phiên bản web của Google Earth. Ban đầu được công ty định vị là một tiện ích sáng tạo để trực quan hóa sự phát triển bất động sản hoặc các địa danh lịch sử, công cụ này cho phép người dùng thao tác với hình ảnh vệ tinh và trên không thông qua các lời nhắc văn bản đơn giản. Tuy nhiên, việc triển khai chỉ diễn ra trong thời gian ngắn. Đến ngày 31 tháng 7, chưa đầy 24 giờ sau khi công chúng tăng cường giám sát về khả năng lạm dụng, gã khổng lồ công nghệ đã chính thức gỡ bỏ tính năng này. Google cho biết họ đang rút lại công cụ này để phát triển các biện pháp bảo vệ mạnh mẽ hơn, đồng thời lưu ý rằng mặc dù một số chuyên gia không gian địa lý nhận thấy tiện ích trong tính năng này, nhưng nền tảng này cũng thấy bằng chứng rõ ràng về việc người dùng vi phạm chính sách của công ty bằng cách tạo ra hình ảnh lừa đảo.

Lỗ hổng của công cụ này đã được Henk van Ess của Digital Digging, người thực hiện các bài kiểm tra sức chịu đựng trên hệ thống, nhấn mạnh. Bằng cách nhập các gợi ý cụ thể, van Ess đã tạo thành công những hình ảnh có độ chân thực cao mô tả các tình huống địa chính trị nhạy cảm, bao gồm các hố bom gần bệnh viện ở Gaza và các khu dân cư tị nạn dọc biên giới Mexico. Những thí nghiệm này đã chứng minh rằng kẻ xấu có thể tận dụng công cụ này để tạo ra bằng chứng trực quan thuyết phục trái ngược với thực tế. Bất chấp khẳng định ban đầu của Google rằng hệ thống của họ bao gồm các hạn chế đối với các chủ đề có hại, van Ess đã báo cáo rằng lời nhắc của anh ấy không bị AI chặn, làm mềm hoặc từ chối. Điều này đã vượt qua các biện pháp bảo vệ dự kiến ​​một cách hiệu quả, chứng tỏ rằng ngay cả các mô hình AI phức tạp cũng có thể bị ép buộc tạo ra các tường thuật sai lệch, gây tổn hại khi được tích hợp vào phần mềm lập bản đồ.

Google ban đầu cố gắng giảm thiểu những lo ngại bằng cách nhấn mạnh sự hiện diện của các biện pháp ngăn chặn kỹ thuật. Công ty tuyên bố rằng tất cả hình ảnh được tạo trong công cụ đều được nhúng hình mờ kỹ thuật số SynthID để báo hiệu rằng nội dung là tổng hợp. Họ khuyến khích người dùng xác minh hình ảnh đáng ngờ bằng cách tham chiếu chéo hình ảnh đó với các công cụ khác, chẳng hạn như ứng dụng Gemini hoặc Google Lens. Tuy nhiên, các nhà phê bình cho rằng những biện pháp này là không đủ. Van Ess đã chứng minh rằng phương tiện được tạo ra có thể vượt qua các công cụ phát hiện AI phổ biến, bao gồm cả những công cụ được Hive sử dụng. Hơn nữa, sự phụ thuộc vào hình mờ kỹ thuật số đã được chứng minh là một biện pháp bảo vệ thiếu sót, vì những dấu hiệu đó có thể bị bỏ qua, bị bỏ qua hoặc có khả năng bị xóa, khiến công chúng dễ tin vào hình ảnh vệ tinh giả mạo giả mạo là dữ liệu có thẩm quyền.

Vụ việc nhấn mạnh sự căng thẳng rộng lớn hơn trong ngành công nghệ liên quan đến việc triển khai AI có trách nhiệm. Mặc dù Google lập luận rằng người dùng đã có thể thao túng hình ảnh trên web bằng nhiều công cụ không phải AI khác nhau, nhưng việc tích hợp các khả năng tổng hợp trực tiếp vào một nền tảng đáng tin cậy như Google Earth sẽ làm giảm đáng kể rào cản gia nhập để truyền bá thông tin sai lệch. Google Earth từ lâu đã được xem là nguồn đáng tin cậy cho các nhà báo, nhà nghiên cứu và công chúng; việc chèn một lớp tạo AI sẽ đe dọa niềm tin nền tảng đó. Việc rút nhanh tính năng này cho thấy các công ty đang cảm thấy áp lực phải cân bằng mong muốn đổi mới sản phẩm nhanh chóng với thực tế là các mô hình AI thường có khả năng tạo ra các chế tạo có hại, có độ chính xác cao, khó phân biệt với bằng chứng trực quan xác thực.