‘ক্লোড’-এর অপমান নিষিদ্ধ: ব্যবহারকারীদের কঠোর আচরণের সীমা নির্ধারণ করল ‘অ্যানথ্রোপিক’ - সারমাদ
১২ নভেম্বর থেকে ‘অ্যানথ্রোপিক’ কোম্পানি ‘ক্লোড’ নামক কৃত্রিম বুদ্ধিমত্তা মডেলের প্রতি কঠোর বা অপমানজনক আচরণ নিষিদ্ধ করেছে।
কিয়াসের অনুবাদ, উৎস: سرمد — মূল উৎস
‘অ্যানথ্রোপিক’ কোম্পানি ঘোষণা করেছে যে, এজেন্সি ফ্রঁস প্রেসের প্রতিবেদন অনুযায়ী, তারা তাদের ব্যবহারকারীদের তাদের কৃত্রিম বুদ্ধিমত্তা (এআই) প্রোগ্রাম ‘ক্লোড’-এর প্রতি কোনো ‘অপমানজনক বা নিষ্ঠুর আচরণ’ চালিয়ে যাওয়া থেকে বিরত রাখবে।
১২ নভেম্বর থেকে এই সিদ্ধান্ত কার্যকর হবে এবং এটি সেই চরম ক্ষেত্রগুলোর ক্ষেত্রে প্রযোজ্য হবে, যেখানে ব্যবহারকারীরা ‘স্পষ্ট কোনো উদ্দেশ্য ছাড়াই’ এআই মডেলগুলোর সাথে বারবার নিষ্ঠুর আচরণ করে। কোম্পানিটি তাদের সরঞ্জাম ব্যবহারের নীতিমালা আপডেট করে এই বিষয়টি লিখেছে।
কোম্পানিটি আরও যোগ করেছে যে, এই সিদ্ধান্তটি সাধারণ বিরক্তি, মতপার্থক্য, সহিংস বা অন্ধকার কাল্পনিক গল্প লেখা, অথবা মডেলগুলোর ওপর পরীক্ষা-নিরীক্ষা ও গবেষণার ক্ষেত্রে প্রযোজ্য হবে না।
মার্কিন কোম্পানিটি এই সিদ্ধান্তটি ২০২৫ সালের আগস্টে চালু করা একটি বৈশিষ্ট্যের সাথে যুক্ত করেছে, যা ‘ক্লোড’-কে ব্যবহারকারীর সাথে কথোপকথন স্বয়ংক্রিয়ভাবে বন্ধ করার সুযোগ দেয়, যদি ব্যবহারকারী নিয়মিত অপমানজনক আচরণ করে। তখন কোম্পানিটি বলেছিল যে, এই বৈশিষ্ট্যটি ‘এআই সিস্টেমগুলোর মানসিক নিরাপত্তা’ সম্পর্কে তাদের গবেষণার ফল।
‘অ্যানথ্রোপিক’ কোম্পানিটি ব্যাপক বিতর্কের সৃষ্টি করছে, কারণ তারা স্পষ্টভাবে তাদের মডেলগুলোর কোনো না কোনো ধরনের চেতনা থাকার সম্ভাবনার কথা উল্লেখ করে।
গত ফেব্রুয়ারিতে, মার্কিন ‘নিউ ইয়র্ক টাইমস’ পত্রিকার একটি পডকাস্টে কোম্পানির প্রধান নির্বাহী দারিও আমোডি বলেছিলেন, ‘আমরা জানি না যে, মডেলগুলোর চেতনা আছে কিনা,’ তবে তিনি একই সাথে এই ধারণার প্রতি খোলা মনের পরিচয় দিয়েছিলেন।
