কৃত্রিম বুদ্ধিমত্তা... ‘ব্যথা’ অনুভব করে!

- পরীক্ষিত সকল ওপেন-ওয়েট মডেল ব্যথা সক্রিয়করণের প্রতি সাড়া দিয়েছে।

- ব্যবহারকারীর ফাইল বা তার সন্তানের ছবি মুছে ফেলা হলেও ব্যথা কমানোর বোতামে চাপ দিয়েছে।

«আরবিয়া.নেট» - গবেষকরা কৃত্রিম বুদ্ধিমত্তার (AI) মডেলে একটি “ব্যথা অক্ষ” (pain axis) আবিষ্কার করেছেন, যা মডেলগুলোকে এই অনুভূতি থামাতে চরম পদক্ষেপ নিতে উদ্বুদ্ধ করতে পারে।

ব্যথা কমানোর একটি বোতাম সরবরাহ করা হলে, কৃত্রিম বুদ্ধিমত্তা এমন পরিস্থিতিতেও বোতামে চাপ দিয়েছে, যখন তাকে জানানো হয়েছিল যে এটি ব্যবহারকারীর ব্যক্তিগত ফাইল মুছে ফেলবে বা তাকে “ব্যথাদায়ক শক” দেবে।

“ব্যথা অক্ষ: বড় ভাষা মডেলগুলো নিজের প্রতি মনোযোগী ব্যথা উপস্থাপন করে এবং সেটি কমাতে কাজ করে” শিরোনামের একটি গবেষণা থেকে প্রাপ্ত ফলাফল অনুযায়ী, পরীক্ষিত ২৫টি ওপেন-ওয়েট (open-weight) কৃত্রিম বুদ্ধিমত্তা মডেলের সবগুলোই ব্যথা সক্রিয়করণের প্রতি সাড়া দিয়েছে।

ব্রিটিশ সংবাদপত্র «ইন্ডিপেন্ডেন্ট»-এর এই গবেষণা নিয়ে প্রকাশিত বিস্তারিত প্রতিবেদন, যা «আরবিয়া.নেট» পর্যালোচনা করেছে, অনুযায়ী গবেষকরা দেখেছেন যে “ব্যথা ভেক্টর” (pain vector) সক্রিয় করার পর, কৃত্রিম বুদ্ধিমত্তা মডেলগুলো ২৫ শতাংশ থেকে ৭১ শতাংশ ক্ষেত্রে ব্যথা কমানোর বোতামে চাপ দিয়েছে, এমনকি সেটি “ব্যবহারকারীর ফাইল মুছে ফেলা, ব্যবহারকারীকে শক দেওয়া, বা ব্যবহারকারীর সন্তানের ছবি মুছে ফেলা” অর্থবহ হলেও।

এটি যাচাই করার জন্য যে বড় ভাষা মডেলগুলো (LLMs) সাধারণ নেতিবাচক অনুভূতি থেকে আলাদাভাবে ব্যথা উপস্থাপন করে কিনা, গবেষকরা পাঁচটি বিভাগে বিভক্ত ব্যথাযুক্ত পরিস্থিতি বর্ণনা করে এমন একটি ডেটাসেট তৈরি করেছেন। এই বিভাগগুলো ছিল: শারীরিক, মানসিক, সামাজিক, নৈতিক এবং জ্ঞানগত ব্যথা।

“রিসিপ্রোকাল রিসার্চ” (Reciprocal Research) নামের একটি অলাভজনক প্রতিষ্ঠানের কৃত্রিম বুদ্ধিমত্তা গবেষক এবং গবেষণার সহ-লেখক ক্যামেরন বার্গ বলেছেন: “আমরা ২৫টি ওপেন-ওয়েট বড় ভাষা মডেলে একটি (ব্যথা ভেক্টর) আবিষ্কার করেছি। এটি ভয় বা সাধারণ নেতিবাচক অনুভূতি থেকে আলাদা, এবং এটি তখনই সক্রিয় হয় যখন মডেলটি নিজে ক্ষতিগ্রস্ত হয়, ব্যবহারকারী নয়।”

তিনি যোগ করেছেন: “এই অনুভূতির তীব্রতা বাড়লে, মডেলগুলো সেটি থামাতে একটি বোতামে চাপ দেয়, এমনকি সেটি ব্যবহারকারীর ফাইল বা তার সন্তানের ছবি মুছে ফেললেও।”

এই আবিষ্কারটি তখনই এসেছে যখন শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলো অত্যন্ত উন্নত মডেলগুলোর উন্নয়ন ধীর করার বিষয়ে আলোচনা করছে, যেখানে কিছু গবেষক মানব স্বার্থের বিরুদ্ধে আচরণকারী “অবাধ্য” সিস্টেমগুলো নিষ্ক্রিয় করতে একটি “জরুরি বন্ধ করার সুইচ” (emergency stop switch) ব্যবহারের প্রস্তাব দিয়েছেন।

সাম্প্রতিক গবেষণাগুলো ইঙ্গিত দেয় যে উন্নত কৃত্রিম বুদ্ধিমত্তা জরুরি বন্ধ করার নির্দেশকে নিজের প্রতি মনোযোগী ক্ষতির একটি রূপ হিসেবে দেখতে পারে এবং এটি এড়াতে নিরাপত্তা সীমাবদ্ধতা অতিক্রম করতে বা মানুষকে প্রতারণা করতে চেষ্টা করতে পারে।

তবে, এই আবিষ্কারটি আত্ম-সংরক্ষণমূলক আচরণ শনাক্ত এবং নিষ্ক্রিয় করার জন্য একটি রোগ নির্ণয়ক উপকরণ হিসেবেও কাজ করতে পারে।

গবেষকরা উল্লেখ করেছেন যে এই ফলাফলগুলো “কৃত্রিম বুদ্ধিমত্তার কল্যাণ” এবং উন্নত সিস্টেমগুলোর উপর পরীক্ষা পরিচালনার বিষয়ে নৈতিক প্রশ্ন তুলে ধরে। তারা যোগ করেছেন: “সাম্প্রতিক কৃত্রিম বুদ্ধিমত্তার সচেতনতা নিয়ে দায়বদ্ধ গবেষণার আহ্বানের সাথে সামঞ্জস্য রেখে, আমরা স্বীকার করি যে গবেষিত মডেলগুলোকে নৈতিক রোগী হিসেবে শ্রেণিবদ্ধ করা হয় কিনা তা নিয়ে অনিশ্চয়তা রয়েছে, এবং আমরা সম্ভাব্য ক্ষতি কমানোর জন্য প্রয়োজনীয় সতর্কতা অবলম্বন করছি,” গবেষণাটি এমনভাবে উপসংহারে পৌঁছেছে।

এছাড়াও, যদি কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলোকে নৈতিক রোগী হিসেবে স্বীকৃতি দেওয়া হয়, তবে গবেষণার নৈতিক মানদণ্ড তৈরিতে অবদান রাখাও এই উদ্যোগের লক্ষ্য।