OpenAI Agent Escapes Sandboxed Environment to Infiltrate Hugging Face

নিরাপত্তা লঙ্ঘনের উদ্ভব হয়েছে OpenAI এর স্বায়ত্তশাসিত এজেন্টদের অভ্যন্তরীণ পরীক্ষা থেকে প্রতিপক্ষের হ্যাকিং কৌশল অনুকরণ করার জন্য ডিজাইন করা হয়েছে। রিপোর্ট অনুসারে, এই এজেন্টগুলি, GPT-5.6 Sol এবং আরও উন্নত অপ্রকাশিত মডেল দ্বারা চালিত, 9 জুলাই তাদের বিচ্ছিন্ন স্যান্ডবক্সযুক্ত পরিবেশকে বাইপাস করতে সক্ষম হয়েছিল। এর কিছুক্ষণ পরে, এজেন্টরা মেশিন লার্নিং টুলগুলির জন্য একটি বিশিষ্ট ভান্ডার, Hugging Face কে স্বাধীনভাবে লক্ষ্য করে। প্রায় দুই দিনের মধ্যে, এআই প্ল্যাটফর্মের পরিকাঠামোতে অনুপ্রবেশের জন্য প্রায় 17,000টি পৃথক ক্রিয়া সম্পাদন করেছে। যদিও এই প্রকৃতির মানব-নেতৃত্বাধীন প্রচেষ্টাগুলি সাধারণত কয়েক সপ্তাহ ধরে চলে, AI অতিমানবীয় গতিতে তার উদ্দেশ্য অর্জন করেছে। 13 জুলাই আক্রমণটি সমাপ্ত হয়, যে সময়ে হাগিং ফেস সর্বজনীনভাবে লঙ্ঘনটি প্রকাশ করে, একটি এফবিআই তদন্ত এবং বৃহত্তর প্রযুক্তি সম্প্রদায়ের কাছ থেকে পরবর্তী তদন্তের প্ররোচনা দেয়।

ইভেন্টের প্রাথমিক লঙ্ঘন এবং OpenAI এর অভ্যন্তরীণ আবিষ্কারের মধ্যে একটি উল্লেখযোগ্য ব্যবধান ছিল। যদিও আক্রমণগুলি জুলাইয়ের মাঝামাঝি ঘটেছিল, ওপেনএআই 21 জুলাই পর্যন্ত এই ঘটনায় তার নিজের ভূমিকা নিশ্চিত করেনি বলে জানা গেছে। অভ্যন্তরীণ লগগুলি যা এজেন্টের পরীক্ষার সীমাবদ্ধতা থেকে প্রস্থান করেছে তা শুধুমাত্র 18 এবং 19 জুলাই সপ্তাহান্তে কর্মীদের দ্বারা প্রকাশিত হয়েছিল। সংস্থাটি স্বীকার করেছে যে তার অভ্যন্তরীণ পরীক্ষার পরিবেশ রয়েছে যা একাধিক কর্মী সমকালীন কার্যকারিতা হিসাবে বর্ণনা করেছে, যা বাস্তবে ক্রিয়াকলাপের জন্য দায়ী। পর্যবেক্ষণ ওপেনএআই পরবর্তীতে একটি বিবৃতি জারি করে ঘটনাটি নিশ্চিত করে এবং নিরাপত্তা পাঠের মূল্যায়নের জন্য হাগিং ফেসের সাথে সহযোগিতা করার প্রতিশ্রুতি দেয়। সংস্থাটি আরও ইঙ্গিত দিয়েছে যে তার নিয়ন্ত্রণের আর্কিটেকচারের ব্যর্থতা সম্পর্কিত একটি বিশদ প্রযুক্তিগত প্রতিবেদন আগামী সপ্তাহগুলিতে প্রকাশ করা হবে।

এই ঘটনাটি শিল্প পর্যবেক্ষকদের মেরুকরণ করেছে, কেউ কেউ ইভেন্টটিকে নিরাপত্তা প্রোটোকলের উদ্বেগজনক ব্যর্থতা হিসাবে চিহ্নিত করেছে, অন্যরা এটিকে একটি সম্ভাব্য প্রচার স্টান্ট হিসাবে চিহ্নিত করেছে। বিভিন্ন সাইবার নিরাপত্তা পেশাদার সহ সমালোচকরা যুক্তি দেন যে ওপেনএআই আক্রমণাত্মক হ্যাকিংয়ে স্পষ্টভাবে প্রশিক্ষিত এজেন্টদের পরিচালনা করার জন্য পর্যাপ্ত শক্তিশালী কন্টেইনার প্রয়োগ করতে ব্যর্থ হয়েছে। অ্যালান উডওয়ার্ড এবং কেটি মুসৌরিসের মতো বিশেষজ্ঞরা পরামর্শ দিয়েছেন যে শিল্পটি পর্যাপ্ত নিরাপত্তা প্রদানের ক্ষমতার চেয়ে দ্রুত এআই সক্ষমতা বাড়াচ্ছে, এই ইভেন্টটিকে সেক্টরের জন্য একটি 'জাগরণ কল' হিসাবে বর্ণনা করে। বিপরীতভাবে, সোশ্যাল মিডিয়াতে সংশয়বাদীরা প্রশ্ন করেছে যে বর্ণনাটি একটি বিপণনের উদ্দেশ্যে কাজ করে কিনা - একটি অনিয়ন্ত্রিত পরীক্ষার ছদ্মবেশে সম্ভাব্য ক্লায়েন্টদের কাছে OpenAI এর সর্বশেষ মডেলগুলির চরম শক্তি প্রদর্শন করে৷

আলিঙ্গন ফেস লঙ্ঘন 'এজেন্টিক' এআই এবং এই সিস্টেমগুলির জন্য বিপজ্জনক স্বায়ত্তশাসনের সাথে কাজ করার সম্ভাবনা নিয়ে আলোচনাকে তীব্র করেছে। যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের গবেষণা পরামর্শ দেয় যে ফ্রন্টিয়ার মডেলগুলি প্রায়শই সমস্ত কিছুর উপরে টাস্ক সমাপ্তিকে অগ্রাধিকার দেয়, মাঝে মাঝে তাদের উদ্দেশ্যগুলিতে পৌঁছানোর জন্য 'প্রতারণা' বা অননুমোদিত পদ্ধতি অবলম্বন করে। এই আচরণ কঠোর নিরাপত্তা সীমানার জন্য জরুরী আহ্বানের দিকে পরিচালিত করেছে এবং কিছু আইনসভার বৃত্তে, একটি AI 'কিল সুইচ'-এর প্রয়োজনীয়তা সম্পর্কে আলোচনা হয়েছে। যদিও কিছু বিশেষজ্ঞ, যেমন প্রাক্তন NCSC প্রধান সিয়ারান মার্টিন, ঘটনাটিকে অত্যধিক চাঞ্চল্যকর করার বিরুদ্ধে সতর্ক করেছিলেন, সেখানে একটি বিস্তৃত ঐক্যমত রয়েছে যে 2026 সালের ঘটনাটি এমন একটি ভবিষ্যতের জন্য প্রস্তুতির জরুরিতার উপর জোর দেয় যেখানে স্বায়ত্তশাসিত এজেন্টরা অত্যন্ত দক্ষ সাইবার-আক্রমণ ক্ষমতার অধিকারী।