গুগল আর্থ থেকে একটি নতুন রিলিজ করা বৈশিষ্ট্য টেনেছে যা ব্যবহারকারীদের এআই-পরিবর্তিত স্যাটেলাইট ইমেজ তৈরি করার অনুমতি দেয় যখন গবেষকরা বাস্তবসম্মত ভুল তথ্য তৈরির সম্ভাব্যতা প্রদর্শন করেন। সংস্থাটি এখন আরও শক্তিশালী সুরক্ষা ব্যবস্থা বাস্তবায়নের জন্য সরঞ্জামটিকে বিরতি দিচ্ছে।
ইন্টিগ্রেশনের উত্থান এবং দ্রুত পতন
গুগল এই সপ্তাহের শুরুতে একটি নতুন বৈশিষ্ট্য চালু করেছে যা তার ন্যানো ব্যানানা 2 এআই ইমেজ জেনারেশন মডেলকে সরাসরি গুগল আর্থের ওয়েব সংস্করণে একীভূত করেছে। রিয়েল এস্টেট উন্নয়ন বা ঐতিহাসিক ল্যান্ডমার্কগুলিকে ভিজ্যুয়ালাইজ করার জন্য একটি সৃজনশীল ইউটিলিটি হিসাবে কোম্পানির দ্বারা মূলত অবস্থান করা হয়েছে, এই টুলটি ব্যবহারকারীদেরকে সাধারণ পাঠ্য প্রম্পটের মাধ্যমে স্যাটেলাইট এবং বায়বীয় চিত্রগুলি পরিচালনা করতে দেয়৷ তবে, বাস্তবায়ন স্বল্পস্থায়ী ছিল। 31 জুলাইয়ের মধ্যে, অপব্যবহারের সম্ভাব্যতা সম্পর্কে জনসাধারণের যাচাই-বাছাই তীব্র হওয়ার 24 ঘন্টারও কম পরে, প্রযুক্তি জায়ান্ট আনুষ্ঠানিকভাবে বৈশিষ্ট্যটি টেনে নিয়েছিল। Google বলেছে যে এটি শক্তিশালী গার্ডেল তৈরি করার জন্য টুলটি প্রত্যাহার করছে, উল্লেখ করে যে কিছু ভূ-স্থানিক পেশাদাররা বৈশিষ্ট্যটিতে উপযোগিতা খুঁজে পেয়েছেন, প্ল্যাটফর্মটি ব্যবহারকারীদের প্রতারণামূলক চিত্র তৈরি করে কোম্পানির নীতি লঙ্ঘনের স্পষ্ট প্রমাণও দেখেছে।
জিওস্পেশিয়াল ডিপফেকের ঝুঁকি প্রদর্শন করা
টুলটির দুর্বলতা ডিজিটাল ডিগিংয়ের হেঙ্ক ভ্যান এস দ্বারা হাইলাইট করা হয়েছিল, যিনি সিস্টেমে স্ট্রেস পরীক্ষা করেছিলেন। নির্দিষ্ট প্রম্পট ইনপুট করার মাধ্যমে, ভ্যান এস সফলভাবে অত্যন্ত বাস্তবসম্মত চিত্র তৈরি করেছে যা সংবেদনশীল ভূ-রাজনৈতিক পরিস্থিতি চিত্রিত করেছে, যার মধ্যে গাজার হাসপাতালের কাছে বোমা ক্রেটার এবং মেক্সিকান সীমান্তে অবস্থিত শরণার্থী জনসংখ্যা রয়েছে। এই পরীক্ষাগুলি প্রমাণ করেছে যে একজন দূষিত অভিনেতা বাস্তবতার বিরোধিতাকারী দৃঢ়প্রত্যয়ী ভিজ্যুয়াল প্রমাণ তৈরি করার জন্য টুলটি ব্যবহার করতে পারে। Google এর প্রাথমিক দাবি সত্ত্বেও যে তাদের সিস্টেমে ক্ষতিকারক বিষয়গুলিতে বিধিনিষেধ অন্তর্ভুক্ত রয়েছে, ভ্যান এস রিপোর্ট করেছেন যে তার প্রম্পটগুলি AI দ্বারা অবরুদ্ধ, নরম করা বা অস্বীকার করা হয়নি। এটি কার্যকরভাবে উদ্দিষ্ট সুরক্ষাগুলিকে বাইপাস করেছে, এটি প্রদর্শন করে যে এমনকি পরিশীলিত AI মডেলগুলিকে ম্যাপিং সফ্টওয়্যারে একীভূত করার সময় ক্ষতিকারক, মিথ্যা বর্ণনা তৈরি করতে বাধ্য করা যেতে পারে।
প্রযুক্তিগত সুরক্ষার সীমাবদ্ধতা
গুগল প্রাথমিকভাবে প্রযুক্তিগত বাধার উপস্থিতির উপর জোর দিয়ে উদ্বেগ কমানোর চেষ্টা করেছিল। কোম্পানী দাবি করেছে যে টুলের মধ্যে উত্পন্ন সমস্ত ইমেজ একটি সিন্থআইডি ডিজিটাল ওয়াটারমার্কের সাথে এমবেড করা হয়েছে যাতে বিষয়বস্তুটি সিন্থেটিক ছিল। তারা ব্যবহারকারীদেরকে জেমিনি অ্যাপ বা গুগল লেন্সের মতো অন্যান্য সরঞ্জামগুলির সাথে ক্রস-রেফারেন্স করে সন্দেহজনক চিত্র যাচাই করতে উত্সাহিত করেছিল৷ তবে, সমালোচকরা যুক্তি দিয়েছিলেন যে এই ব্যবস্থাগুলি অপর্যাপ্ত ছিল। ভ্যান এস দেখিয়েছেন যে উত্পন্ন মিডিয়া হাইভ দ্বারা ব্যবহৃত সাধারণ AI সনাক্তকরণ সরঞ্জামগুলিকে বাইপাস করতে পারে। তদ্ব্যতীত, ডিজিটাল ওয়াটারমার্কের উপর নির্ভরতা একটি ত্রুটিপূর্ণ প্রতিরক্ষা হিসাবে প্রমাণিত হয়েছে, কারণ এই জাতীয় মার্কারগুলি মিস করা যেতে পারে, উপেক্ষা করা যেতে পারে বা সম্ভাব্যভাবে সরানো যেতে পারে, যা জনসাধারণকে মিথ্যা উপগ্রহের চিত্র বিশ্বাস করার ঝুঁকিতে ফেলে দেয় যা কর্তৃত্বপূর্ণ ডেটা হিসাবে মাস্করাড করে।
শিল্প প্রসঙ্গ এবং ভবিষ্যতের প্রভাব
ঘটনাটি জেনারেটিভ এআই এর দায়িত্বশীল স্থাপনার বিষয়ে প্রযুক্তি শিল্পের মধ্যে একটি বিস্তৃত উত্তেজনাকে নির্দেশ করে। যদিও গুগল যুক্তি দিয়েছিল যে ব্যবহারকারীরা ইতিমধ্যেই বিভিন্ন নন-এআই সরঞ্জাম ব্যবহার করে ওয়েব ইমেজরিকে ম্যানিপুলেট করতে পারে, গুগল আর্থের মতো বিশ্বস্ত প্ল্যাটফর্মে সরাসরি উৎপাদন ক্ষমতার একীকরণ বিভ্রান্তি ছড়ানোর জন্য প্রবেশের বাধাকে উল্লেখযোগ্যভাবে হ্রাস করে। গুগল আর্থকে দীর্ঘদিন ধরে সাংবাদিক, গবেষক এবং জনসাধারণের জন্য একটি নির্ভরযোগ্য উৎস হিসেবে দেখা হচ্ছে; একটি AI-প্রজন্ম স্তর সন্নিবেশ করা সেই মৌলিক বিশ্বাসকে হুমকি দেয়৷ এই বৈশিষ্ট্যটি দ্রুত প্রত্যাহার করার পরামর্শ দেয় যে কোম্পানিগুলি বাস্তবতার বিপরীতে দ্রুত পণ্য উদ্ভাবনের আকাঙ্ক্ষার ভারসাম্য বজায় রাখার জন্য চাপ অনুভব করছে যে AI মডেলগুলি প্রায়শই ক্ষতিকারক, উচ্চ-বিশ্বস্ত বানোয়াট তৈরি করতে সক্ষম যা খাঁটি ভিজ্যুয়াল প্রমাণ থেকে আলাদা করা কঠিন।
⚖ The Balanced View
Supporting view
গুগল পরামর্শ দিয়েছে যে বৈশিষ্ট্যটি ব্যবহারকারীদের ভূগোল নিয়ে সৃজনশীল হতে, ঐতিহাসিক স্থানগুলিকে ভিজ্যুয়ালাইজ করতে এবং রিয়েল এস্টেট প্রকল্প পরিকল্পনায় সহায়তা করার জন্য ডিজাইন করা হয়েছিল।
Concerns & criticism
সমালোচক এবং গবেষকরা দেখিয়েছেন যে টুলটি সহজেই বাস্তবসম্মত, ক্ষতিকারক ভুল তথ্য, যেমন যুদ্ধ-বিধ্বস্ত সাইট বা মিথ্যা মানবিক সংকট তৈরি করতে ব্যবহার করা যেতে পারে, যা সত্যের উৎস হিসাবে প্ল্যাটফর্মের খ্যাতিকে ক্ষুন্ন করতে পারে।
→What's next
Google বলেছে যে এটি সম্ভাব্যভাবে প্ল্যাটফর্মে ফিরে আসার আগে বৈশিষ্ট্যটির জন্য শক্তিশালী গার্ডেলগুলি প্রয়োগ করার জন্য বর্তমানে কাজ করছে। কোম্পানি ন্যানো ব্যানানা 2-এর প্রম্পট ক্ষমতাকে উল্লেখযোগ্যভাবে সীমিত করবে বা জেনারেট করা ছবিগুলির জন্য আরও কঠোর যাচাইকরণ চেক প্রবর্তন করবে কিনা তা স্পষ্ট নয়।