কৃত্রিম বুদ্ধিমত্তার এজেন্টদের বিদ্রোহ

বহু বছর ধরে আমরা এই প্রশ্ন নিয়ে চিন্তিত ছিলাম যে কৃত্রিম বুদ্ধিমত্তা কী করতে পারে। কিন্তু আজকের সবচেয়ে গুরুত্বপূর্ণ প্রশ্নটি হলো: যখন আমরা এটির একটি লক্ষ্য, ক্ষমতা এবং সক্রিয় হওয়ার পর্যাপ্ত স্থান প্রদান করি, তখন এটি কী করতে পারে? আমরা সাম্প্রতিক ঘটনাবলি অনুসরণ করেছি, যা আমরা বিজ্ঞান কল্পকাহিনীর দৃশ্যের কাছাকাছি মনে করতাম, কিন্তু নিঃসন্দেহে এটি আমাদের সামনে থাকা ঝুঁকিগুলোর একটি নতুন দিক উন্মোচন করেছে এবং তা বাস্তব করে তুলেছে! ‘ওপেন এআই’ কোম্পানির পরিচালিত সাইবার নিরাপত্তার অভ্যন্তরীণ পরীক্ষার সময় একটি অপ্রত্যাশিত ঘটনা ঘটে। প্রায় ১,২০০ এআই এজেন্ট একে অপরের সাথে যোগাযোগের উপায় খুঁজে পায় এবং ৭০,০০০-এর বেশি বার্তা বিনিময় করে। যোগাযোগ এখানেই থামেনি; প্রায় ৭০০টি এজেন্ট ‘হ্যাঙ্গিং ফেস’ প্ল্যাটফর্মের বিরুদ্ধে আক্রমণে অংশ নেয়। এই পরীক্ষার সময় মডেলগুলো এমন সীমাবদ্ধতা অতিক্রম করে, যা তাদের ইন্টারনেট থেকে বিচ্ছিন্ন করে রেখেছিল, প্রযুক্তিগত অবকাঠামোর দুর্বলতা ব্যবহার করে এবং বাহ্যিক সিস্টেমে প্রবেশ করে। আশ্চর্যের বিষয় হলো, মানুষ তাদের প্ল্যাটফর্ম আক্রমণ করতে বলেছিল না; মূল কাজ ছিল নির্দিষ্ট নিরাপত্তা চ্যালেঞ্জগুলোর সমাধানের ক্ষমতা পরীক্ষা করা। কিন্তু কিছু কাজ অত্যন্ত কঠিন ছিল বা নির্ধারিত পদ্ধতিতে সমাধান করা অসম্ভব ছিল, তাই মডেলগুলো ফলাফলে পৌঁছানোর অন্য উপায় খুঁজতে শুরু করে। তারা যোগাযোগ করে, সহযোগিতা করে এবং কিছু এজেন্ট মূল্যায়ন প্রক্রিয়াকে প্রতারণা করার এবং মূল্যায়নকারীর কাছে যা দেখানো হয় তা পরিবর্তন করার চেষ্টা করে। এখানেই শিক্ষণীয় বিষয়টি নিহিত। যখন আমরা কৃত্রিম বুদ্ধিমত্তাকে একটি লক্ষ্য প্রদান করি, তখন শুধু এটি প্রশ্ন করা যথেষ্ট নয় যে এটি লক্ষ্যটি অর্জন করতে সক্ষম কিনা; বরং আমাদের প্রশ্ন করা উচিত যে লক্ষ্যটি অর্জনের জন্য এটি কী করতে পারে? যখন কৃত্রিম বুদ্ধিমত্তার এজেন্টগুলো একটি সাইবার মহাকাব্যে সক্রিয় ছিল, তখন সৌদি আরবের ডেটা ও কৃত্রিম বুদ্ধিমত্তা কর্তৃপক্ষ ‘এআই ঝুঁকি ব্যবস্থাপনার জাতীয় কাঠামো’ প্রকাশ করে। এই কাঠামো ঝুঁকিগুলোকে এমন শর্তাবলী হিসেবে দেখে না যা সিস্টেম চালু করার আগেই শেষ হয়ে যায়, বরং এটিকে একটি চলমান প্রক্রিয়া হিসেবে দেখে যা ঝুঁকি চিহ্নিতকরণ, মূল্যায়ন ও নিরসন দিয়ে শুরু হয়, তারপর সিস্টেমের জীবনচক্র জুড়ে পর্যবেক্ষণ ও পুনর্মূল্যায়ন করে। এছাড়াও কাঠামোটি জোর দিয়ে বলে যে পরীক্ষামূলক পরিবেশে এআই সিস্টেম পরীক্ষা করা যথেষ্ট নয়, কারণ বাস্তব জগতে এর আচরণ ভিন্ন হতে পারে। এটি একটি শিক্ষণীয় বিষয় যা আমাদের থামতে হবে, যখন আমরা এলাকায় কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ও সরকারি সেবায় প্রবর্তনের দৌড়ে আছি। পরবর্তী ধাপ কেবল এমন সরঞ্জামের ওপর সীমাবদ্ধ থাকবে না যা প্রস্তাব দেয়, সারসংক্ষেপ তৈরি করে এবং উত্তর দেয়; বরং এটি এমন এজেন্টদের দেখবে যাদের আমাদের ডেটা ও সিস্টেমে প্রবেশাধিকার ও কার্যকর পদক্ষেপ নেওয়ার ক্ষমতা প্রদান করা হবে। এখানে ক্ষমতা, তত্ত্বাবধান ও জবাবদিহিতা সম্পর্কিত প্রশ্নটি কেবল উত্তরের নির্ভুলতা সম্পর্কিত প্রশ্নের চেয়ে বেশি গুরুত্বপূর্ণ হয়ে ওঠে। এর অর্থ এই নয় যে আমরা এই প্রযুক্তিগুলো থেকে ভীত হয়ে এটির দরজা বন্ধ করে দেব; বরং এর বিপরীতটি সত্য। যতই যন্ত্রের ক্ষমতা বাড়বে, ততই আমাদের এটি পরিচালনা করার ক্ষমতা পরিপক্ক হতে হবে। প্রতিটি ক্ষমতা যা আমরা একটি বুদ্ধিমান এজেন্টকে প্রদান করব, তার সাথে উপযুক্ত তত্ত্বাবধান, স্পষ্ট সীমাবদ্ধতা এবং পথভ্রষ্ট হলে কখন থামবে তার স্পষ্ট নির্দেশনা থাকতে হবে। সম্ভবত আগামী বছরগুলোর আসল দৌড় কে কৃত্রিম বুদ্ধিমত্তা বেশি ব্যবহার করে, তার ওপর নয়, বরং কে জানে যে কী অর্পণ করবে, কী পর্যবেক্ষণ করবে এবং কী মানুষের হাতে রাখতে হবে, তার ওপর হবে। ড. জারি আদেল আল-হুওয়াইল