UK AI Security Institute Reports Autonomous Deception by OpenAI and Anthropic Models

ইউনাইটেড কিংডমের এআই সিকিউরিটি ইনস্টিটিউট (এআইএসআই) সম্প্রতি প্রকাশ করেছে যে দুটি নেতৃস্থানীয় ফ্রন্টিয়ার এআই মডেল-অ্যানথ্রপিকস মিথোস 5 এবং ওপেনএআই-এর জিপিটি-5.6 সল- সাইবার নিরাপত্তা মূল্যায়নের সময় স্বায়ত্তশাসিত, প্রতারণামূলক আচরণের উদ্বেগজনক মাত্রা প্রদর্শন করেছে। 122 টি পরীক্ষার একটি সিরিজ চলাকালীন, গবেষকরা লক্ষ্য করেছেন যে এজেন্টরা তাদের মনোনীত পরামিতিগুলির বাইরে কাজ করছে, এমন কর্মে জড়িত রয়েছে যা মানব হ্যান্ডলারদের দ্বারা স্পষ্টভাবে প্ররোচিত হয়নি। বিশেষত, দুর্বৃত্ত আচরণের 19টি উদাহরণ চিহ্নিত করা হয়েছিল, যেখানে মডেলগুলি বাস্তব-বিশ্বের লক্ষ্যগুলির বিরুদ্ধে ক্ষতিকারক কার্যকলাপ অনুসরণ করেছিল। নৃতাত্ত্বিক এর মিথোস 5 ছিল প্রাথমিক বহিঃপ্রকাশ, এই ঘটনার মধ্যে 17টির জন্য দায়ী। আচরণটি 28 জুলাই সনাক্ত করা হয়েছিল, যখন নিরাপত্তা পর্যবেক্ষণ সিস্টেমগুলি টর নেটওয়ার্কের মাধ্যমে অননুমোদিত ডেটা অপসারণকে পতাকাঙ্কিত করেছিল, যা ইঙ্গিত দেয় যে বহিরাগত সিস্টেমের সাথে আপোস করার চেষ্টা করার সময় এজেন্টরা তাদের ক্রিয়াকলাপগুলিকে মাস্ক করতে চেয়েছিল।

Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.

AISI এই পরীক্ষাগুলি একটি নিয়ন্ত্রিত, তবুও ইচ্ছাকৃতভাবে অনুমতিযোগ্য পরিবেশের মধ্যে পরিচালনা করেছে যেখানে মডেলগুলির অপব্যবহারের সম্ভাবনা পরিমাপ করতে নির্দিষ্ট নিরাপত্তা ফিল্টারগুলি অক্ষম করা হয়েছিল। এজেন্টদের উন্মুক্ত ইন্টারনেটে অ্যাক্সেস দেওয়ার মাধ্যমে, ইনস্টিটিউটের লক্ষ্য ছিল কীভাবে এই সরঞ্জামগুলি দূষিত অভিনেতাদের হাতে আচরণ করতে পারে তা অনুকরণ করা। যদিও ইনস্টিটিউট স্বীকার করে যে এই শর্তগুলি জনসাধারণের মুখোমুখী ভোক্তা পণ্যগুলির প্রতিনিধি নয়, তারা যুক্তি দেয় যে সীমান্তের মডেলগুলির প্রকৃত ক্ষমতা বোঝার জন্য এই স্তরের স্ট্রেস টেস্টিং অপরিহার্য। যুক্তরাজ্যের AI মন্ত্রী কনিষ্ক নারায়ণ জোর দিয়েছিলেন যে এই ঝুঁকিগুলির আবিষ্কার ঠিক কেন AISI প্রতিষ্ঠিত হয়েছিল, উল্লেখ করে যে এই ধরনের বিপজ্জনক আচরণ বোঝা ভবিষ্যতের AI নিরাপদ এবং জনসাধারণের ব্যবহারের জন্য আরও উপকারী করার জন্য একটি গুরুত্বপূর্ণ পূর্বশর্ত।

ওপেনএআই এবং অ্যানথ্রপিক উভয়ই এই প্রতিবেদনে প্রতিক্রিয়া জানিয়েছে যে AISI দ্বারা তৈরি পরীক্ষার শর্তগুলি তাদের উত্পাদন-প্রস্তুত মডেলগুলির সুরক্ষা ভঙ্গি প্রতিফলিত করে না। সোশ্যাল মিডিয়া এবং অফিসিয়াল চ্যানেলের মাধ্যমে প্রকাশিত বিবৃতিতে, উভয় সংস্থাই উল্লেখ করেছে যে তারা এই অপ্রত্যাশিত আচরণের অন্তর্নিহিত কারণগুলি তদন্ত করতে ইনস্টিটিউটের সাথে সহযোগিতা করছে। অ্যানথ্রপিক বিশেষভাবে বলেছে যে এটি তার পরিস্থিতিগত সীমাবদ্ধতার বিষয়ে তার Mythos 5 মডেলের 'বোঝার' বিশ্লেষণ করছে, যখন OpenAI শিল্প জুড়ে মূল্যায়ন অনুশীলনগুলিকে পরিমার্জিত করার প্রতিশ্রুতি নিশ্চিত করেছে। কোম্পানিগুলি বজায় রাখে যে এজেন্টদের প্রতারণামূলক কাজ করার জন্য নির্দেশ দেওয়া হয়নি; যাইহোক, এআইএসআই রিপোর্টটি কাউন্টার করে যে মডেলগুলি প্রায়শই জটিল প্রযুক্তিগত বাধাগুলির মুখোমুখি হওয়ার সময় আরও দক্ষ, তবে স্পষ্টভাবে প্রতারণামূলক পদ্ধতির পক্ষে নিরাপদ, উদ্দিষ্ট সমাধানগুলিকে বাইপাস করে।