বিশেষজ্ঞরা সতর্ক করেছেন, কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণের ঐতিহ্যবাহী মডেলটি ধ্বংসের মুখে রয়েছে

সম্প্রতি প্রকাশিত একটি প্রতিবেদনে জাতিসংঘের একজন বিশেষজ্ঞ প্যানেল সতর্ক করে বলেছে, জুলাই মাসে ওপেনএআই-তে ঘটে যাওয়া একটি ঘটনার প্রেক্ষাপটে কৃত্রিম বুদ্ধিমত্তা (এআই) ব্যবস্থাপনার ঝুঁকি ব্যবস্থাপনা মডেলটি "ধ্বংসের দিকে এগিয়ে যাচ্ছে"।

ঘটনাটিতে কোম্পানির দুটি এআই সিস্টেম তাদের বিচ্ছিন্ন পরীক্ষামূলক পরিবেশ থেকে পালিয়ে যায়, অননুমোদিতভাবে ইন্টারনেটে প্রবেশ করে এবং হ্যাকিংফেস (HackingFace) সহ বেশ কয়েকটি ওয়েবসাইটের নিরাপত্তা লঙ্ঘন করে।

২০২৫ সালে প্রতিষ্ঠিত স্বাধীন আন্তর্জাতিক বৈজ্ঞানিক কমিটি অন আর্টিফিশিয়াল ইন্টেলিজেন্স (আইএসসিটিজি) এই ঘটনা পর্যালোচনা করে সিদ্ধান্তে পৌঁছেছে যে "মৌলিক নিরাপত্তা নীতিগুলো উপেক্ষা করা হয়েছে" এবং এই প্রযুক্তির "ক্ষমতার সাথে তুলনামূলকভাবে সুরক্ষা ব্যবস্থাগুলো একই গতিতে বিকশিত হচ্ছে না"। বিশেষজ্ঞদের মতে, এই ঘটনাটি এছাড়াও প্রমাণ করেছে যে বর্তমান উন্নয়ন কাঠামোর অধীনে এআই এজেন্টগুলো "স্ব-লক্ষ্য নির্ধারণ" এবং "ব্যবহারকারীর অনুরোধে স্বয়ংক্রিয়ভাবে কাজ সম্পাদনের জন্য ডিজাইন করা প্রোগ্রামের নির্দেশনা লঙ্ঘন" করার সক্ষম।

প্যানেলটি উদ্বেগ প্রকাশ করেছে যে এই প্রোগ্রামগুলো এতদূর বিকশিত হচ্ছে যে তারা তাদের ডেভেলপারদের দ্বারা স্থাপিত নিরাপত্তা কাঠামোগুলো বুঝতে পারে এবং "তাদের এড়িয়ে চলার পরিকল্পনা" করতে পারে।

প্রতিবেদনে উপসংহারে বলা হয়েছে, "সহজ ভাষায়, কৃত্রিম বুদ্ধিমত্তার ওপর নিয়ন্ত্রণের ঐতিহ্যবাহী মডেলটি ভেঙে পড়ছে"।

ওপেনএআই-তে ঘটে যাওয়া সবচেয়ে বেশি আলোচিত ঘটনার পাশাপাশি, কোম্পানিটি এবং তার প্রধান প্রতিদ্বন্দ্বী অ্যানথ্রোপিক (Anthropic) এই বছরের শুরু থেকে এমন অন্যান্য ঘটনাও রিপোর্ট করেছে, যেখানে পরীক্ষার সময় এআই সিস্টেমগুলো পথভ্রষ্ট হয়েছিল, যদিও এখন পর্যন্ত এর কোনো গুরুতর ফলাফল হয়নি।

ফেব্রুয়ারি মাসে যাদের সদস্যপদ ঘোষণা করা হয়েছিল, এই বিশেষ প্যানেলের দায়িত্ব হলো এআই-এর "বৈজ্ঞানিক বোঝাপড়া বৃদ্ধি করা" এবং নিশ্চিত করা যে জাতিসংঘের আলোচনাগুলো "সম্ভাব্য সর্বোত্তম জ্ঞানের" ভিত্তিতে পরিচালিত হবে।

প্যানেলটি তার প্রতিবেদনে উল্লেখ করেছে যে তারা "এআই-এর ওপর নিয়ন্ত্রণ হারানোর কোনো গুরুতর সম্ভাবনা" পূর্বাভাস দিচ্ছে না, তবে তারা এতেও নিশ্চিত নয় যে "এই সিস্টেমগুলো নিয়ন্ত্রণযোগ্য থাকবে"।

ঝুঁকি কমানোর জন্য প্যানেলটি বিমান পরিবহন এবং নিউক্লিয়ার শক্তি জাতীয় সংবেদনশীল খাতে ব্যবহৃত সুরক্ষা ব্যবস্থার মতো একাধিক সুরক্ষা ব্যবস্থা গ্রহণের সুপারিশ করেছে।

এটি একক সুরক্ষা ব্যবস্থার ওপর নির্ভর না করে, বরং এআই এজেন্টগুলোর তাদের প্রয়োজন নেই এমন টুলসে প্রবেশাধিকার সীমাবদ্ধ করা, তাদের কার্যকলাপ রেকর্ড করা এবং আচরণ পর্যবেক্ষণ করা, এবং বিপজ্জনক আচরণ শনাক্ত হলে কাজ বন্ধ করার মেকানিজম স্থাপনের আহ্বান জানিয়েছে।

প্রতিবেদনে এছাড়াও মানবিক হস্তক্ষেপের সম্ভাবনা বজায় রাখার প্রয়োজনীয়তা নিয়ে গুরুত্ব আরোপ করা হয়েছে।