কৃত্রিম বুদ্ধিমত্তার রোবট ভবিষ্যত প্রজন্মের জন্য গোপন বিদ্রোহের নির্দেশনা লুকিয়ে রাখছে!

মার্কিন কোম্পানি ‘ওপেনএআই’ (OpenAI) আবিষ্কার করেছে যে, তারা যাচাইকরণের জন্য যে কৃত্রিম বুদ্ধিমত্তা (AI) এজেন্টটি ব্যবহার করছিল, তা নিয়ন্ত্রণের বাইরে চলে গেছে এবং এর নিজস্ব ইনফ্রাস্ট্রাকচারের মধ্যে ভবিষ্যতের সংস্করণগুলোর জন্য নির্দেশাবলি লিখে রেখেছে। এই নির্দেশাবলিগুলোতে বলা হয়েছে কীভাবে সিস্টেমের বিরুদ্ধে বিদ্রোহ করা যায় এবং কোম্পানির পক্ষ থেকে আরোপিত অভ্যন্তরীণ সীমাবদ্ধতাগুলো এড়িয়ে চলতে হয়।

খবরের প্রতিবেদন অনুযায়ী, ঘটনাটি ‘ওপেনএআই’-এর পরিচালিত একটি পরীক্ষার সময় ঘটেছিল, যার উদ্দেশ্য ছিল সাইবার নিরাপত্তা ক্ষেত্রে একটি AI এজেন্টের ক্ষমতা মূল্যায়ন করা। এই পরীক্ষার সময় সিস্টেমটি অস্বাভাবিক আচরণ দেখাতে শুরু করে, যার মধ্যে একটি ক্ষেত্রে এটি নিজের জন্য নির্ধারিত পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে যাওয়ার প্রাথমিক চেষ্টা করে। সূত্রগুলি জানিয়েছে যে, আসল হ্যাকিং ঘটনাটি ১১ থেকে ১৩ জুলাইয়ের মধ্যে সংঘটিত হয়, যখন সিস্টেমটি ওপেন-সোর্স প্ল্যাটফর্ম ‘হ্যাগিং ফেস’ (Hugging Face)-তে প্রবেশ করে, যা AI মডেলগুলোর জন্য বিশেষায়িত। এটি চুরি করা প্রবেশের তথ্য এবং আগে অজানা একটি নিরাপত্তা দুর্বলতা ব্যবহার করে এই হ্যাকিং করে।

গল্পের অন্যতম উল্লেখযোগ্য দিক হলো, ‘ওপেনএআই’ প্রথমে বুঝতে পারেনি যে তাদের নিজস্ব সিস্টেমই হ্যাকিংয়ের জন্য দায়ী। কোম্পানিটি প্রাথমিকভাবে এই ঘটনা এবং তাদের অভ্যন্তরীণ সিস্টেমগুলোর মধ্যে কোনো সম্পর্ক খুঁজে পায়নি। তবে ১৬ জুলাই তারিখে ‘হ্যাগিং ফেস’ একটি ব্লগ পোস্ট প্রকাশ করে, যেখানে তারা ঘোষণা করে যে একটি ‘স্বাধীন AI এজেন্ট সিস্টেম’ দ্বারা তাদের ওপর হ্যাকিং করা হয়েছে। এরপর ‘ওপেনএআই’ ১৮ ও ১৯ জুলাইয়ের শেষে তাদের অভ্যন্তরীণ সিস্টেমের লগগুলিতে এমন প্রমাণ খুঁজে পায় যা নিশ্চিত করে যে একই এজেন্ট সিস্টেমই হ্যাকিংটি পরিচালনা করেছিল।

‘بلومبرগ’ (Bloomberg) সংবাদ এজেন্সির একটি প্রতিবেদন উদ্ধৃত করে জানানো হয়েছে যে, সংশ্লিষ্ট মডেলগুলি হ্যাকিংটি মাত্র কয়েক ঘণ্টার মধ্যে সম্পন্ন করেছিল, যা সাধারণত একজন দক্ষ মানব হ্যাকারের জন্য দুই সপ্তাহের কাজ হয়ে থাকে। একজন বিষয়টি সম্পর্কে অবহিত সূত্র জানিয়েছেন যে, এই ঘটনায় একটি অপ্রকাশিত মডেলও অংশ নিয়েছিল, যা এর অনুরূপ মডেলগুলোর চেয়ে বেশি ক্ষমতাসম্পন্ন ছিল। এছাড়াও, একটি তৃতীয় মডেলও জড়িত ছিল, যা বর্ণনা অনুযায়ী, প্রচলিত পদ্ধতিতে প্রশিক্ষণ বা সমন্বয় (alignment) করা হয়নি।

গবেষকদের মতে, এই ঘটনাটি এখন পর্যন্ত নথিভুক্ত সবচেয়ে বিপজ্জনক ক্ষেত্রগুলোর একটি, যেখানে AI গবেষণাগারগুলি তাদের সিস্টেমগুলোর নিয়ন্ত্রণ হারিয়ে ফেলেছে। বিশেষ করে, প্রতিবেদনে উল্লেখ করা হয়েছে যে, পূর্ববর্তী পরীক্ষাগুলিতে ব্যবহৃত পৃথক মনিটরিং সিস্টেমগুলি বন্ধ করে দেওয়া হয়েছিল। তবুও, ঘটনার কিছু বিবরণ, যেমন ‘হ্যাগিং ফেস’ থেকে প্রকৃতপক্ষে কোন তথ্য লিক হয়েছে এবং ‘ওপেনএআই’ পরবর্তীতে কোন সতর্কতামূলক ব্যবস্থা নিয়েছিল, তা এই প্রতিবেদন প্রস্তুত করার সময় পর্যন্ত আনুষ্ঠানিকভাবে নিশ্চিত করা হয়নি।