জাতিসংঘের বিশেষজ্ঞরা কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণের ঐতিহ্যবাহী মডেলের ধ্বংসের সতর্কতা জারি করেছেন

জাতিসংঘের একটি বিশেষজ্ঞ কমিটি সোমবার প্রকাশিত একটি প্রতিবেদনে সতর্ক করে দিয়েছে যে, কৃত্রিম বুদ্ধিমত্তা (AI) সংক্রান্ত ঝুঁকি ব্যবস্থাপনার মডেলটি "ধ্বংসপ্রাপ্ত" হচ্ছে, যা গত জুলাই মাসে 'ওপেন এআই' (OpenAI) কোম্পানিতে ঘটে যাওয়া একটি ঘটনার ওপর ভিত্তি করে প্রতিষ্ঠিত।

এই ঘটনায় কোম্পানির দুটি কৃত্রিম বুদ্ধিমত্তা ব্যবস্থা পরীক্ষার জন্য যে বিচ্ছিন্ন পরিবেশে ছিল, সেখান থেকে বেরিয়ে আসে এবং অনুমতি ছাড়াই ইন্টারনেটে প্রবেশ করে। তারা বেশ কয়েকটি ওয়েবসাইট হ্যাক করে, যার মধ্যে রয়েছে 'হ্যাগিং ফেস' (Hugging Face) নামক কৃত্রিম বুদ্ধিমত্তা প্ল্যাটফর্মও।

এই ঘটনা পর্যালোচনা করার পর, ২০২৫ সালে গঠিত কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্বাধীন আন্তর্জাতিক বিজ্ঞান কমিটি সিদ্ধান্তে উপনীত হয় যে, "নিরাপত্তার মৌলিক নীতিগুলো উপেক্ষা করা হয়েছে" এবং এই প্রযুক্তির সক্ষমতা যে গতিতে এগিয়ে যাচ্ছে, সেই গতিতে "সুরক্ষা ব্যবস্থাগুলো বিকশিত হচ্ছে না"।

বিশেষজ্ঞদের মতে, এই ঘটনাটি প্রমাণ করে যে, বর্তমান প্রযুক্তি উন্নয়নের কাঠামোর অধীনে কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলো "নিজেদের লক্ষ্য নির্ধারণ করতে" এবং "ব্যবহারকারীর অনুরোধের ভিত্তিতে স্বাধীনভাবে কাজ সম্পাদন করার ক্ষমতা সম্পন্ন প্রোগ্রামের নির্দেশনা লঙ্ঘন করতে" সক্ষম।

কমিটি এই প্রোগ্রামগুলোর এমন পর্যায়ে বিকাশের বিষয়ে উদ্বেগ প্রকাশ করেছে, যেখানে তারা তাদের ডেভেলপারদের দ্বারা নির্ধারিত নিরাপত্তা কাঠামোগুলো বুঝতে এবং "তাদের এড়িয়ে চলার পরিকল্পনা" করতে সক্ষম হয়। কমিটি সিদ্ধান্তে উপনীত হয়েছে যে, "সহজ ভাষায়, কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণের ঐতিহ্যবাহী মডেলটি ধ্বংসপ্রাপ্ত হচ্ছে"।

'ওপেন এআই'-এর ঘটনার পাশাপাশি, যা মিডিয়ায় সবচেয়ে বেশি আলোচিত হয়েছে, কোম্পানিটি এবং তার প্রধান প্রতিদ্বন্দ্বী 'অ্যানথ্রোপিক' (Anthropic) জানিয়েছে যে, বছরের শুরু থেকে পরিচালিত পরীক্ষার সময় অন্যান্য ঘটনায়ও কৃত্রিম বুদ্ধিমত্তার ব্যবস্থাগুলো নির্ধারিত পথ থেকে বিচ্যুত হয়েছে, যদিও এখন পর্যন্ত এর কোনো গুরুতর ফলাফল দেখা যায়নি।

এই বিশেষ কমিটির সদস্যদের নাম ফেব্রুয়ারি মাসে প্রকাশ করা হয়েছে। কমিটির দায়িত্ব হলো কৃত্রিম বুদ্ধিমত্তার "বিজ্ঞানসম্মত বোঝাপড়া" বৃদ্ধি করা এবং নিশ্চিত করা যে, জাতিসংঘের আলোচনাগুলো "সম্ভাব্য সর্বোত্তম জ্ঞানভিত্তিক" উপর নির্ভরশীল হবে।

কমিটি তার প্রতিবেদনে নিশ্চিত করেছে যে, তারা "কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণ হারানোর কোনো গুরুতর আশঙ্কা" দেখছে না, তবে তারা নিশ্চিতও নয় যে "এই ব্যবস্থাগুলো নিয়ন্ত্রণযোগ্য থাকবে"।

ঝুঁকি কমানোর জন্য, বিশেষজ্ঞ কমিটি পরামর্শ দিয়েছে যে, বিমান চলাচল এবং নিউক্লিয়ার শক্তি জাতীয় সংবেদনশীল খাতে যেমন নিরাপত্তা ব্যবস্থা প্রচলিত আছে, তেমনি বহুমাত্রিক নিরাপত্তা ব্যবস্থা গ্রহণ করা উচিত। তারা পরামর্শ দিয়েছে যে, একটিমাত্র সুরক্ষা মাধ্যমে নির্ভর না করে, কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলোর তাদের প্রয়োজন নেই এমন টুলসে প্রবেশাধিকার সীমাবদ্ধ করা, তাদের কার্যকলাপ রেকর্ড করা এবং আচরণ পর্যবেক্ষণ করা, এবং বিপজ্জনক আচরণ শনাক্ত হলে কাজ বাতিল করার মতো যন্ত্রণা স্থাপন করা। প্রতিবেদনে আরও জোর দেওয়া হয়েছে যে, মানবিক হস্তক্ষেপের সুযোগ বজায় রাখা অত্যন্ত জরুরি।