کلود کی توہین ممنوع: اینتھروپک نے صارفین کی ظلم و ستم کی حد مقرر کر دی - سارماد

کمپنی ‘اینٹھروپک’ نے اعلان کیا ہے کہ وہ اپنے صارفین کو اپنے مصنوعی ذہانت کے پروگرام ‘کلود’ کے ساتھ کسی بھی ‘مسلسل اور بلاوجہ بدسلوکی یا ظالمانہ رویے’ سے روکے گی، جیسا کہ ‘فرانس پریس ایجنسی’ نے نقل کیا ہے۔

یہ فیصلہ 12 نومبر سے نافذ العمل ہوگا، اور اس کا اطلاق انتہائی حالات پر ہوگا، ‘جہاں صارفین بغیر کسی واضح مقصد کے ماڈلز کے ساتھ بار بار ظالمانہ رویہ اپناتے ہیں’، جیسا کہ کمپنی نے اپنے آلات کے استعمال کی پالیسی میں اپڈیٹ کرتے ہوئے لکھا۔

اس نے مزید کہا کہ یہ فیصلہ عام پریشانی، رائے کے اختلاف، تشدد یا تاریک خیالات والی افسانوی کہانیاں لکھنے، یا ماڈلز پر تجربات اور تحقیق کرنے کے دائرے میں نہیں آئے گا۔

امریکی کمپنی نے اس فیصلے کو اگست 2025 میں متعارف کرائی گئی ایک خصوصیت سے جوڑا، جو ‘کلود’ کو مسلسل بدسلوکی کرنے والے صارف کے ساتھ خود بخود گفتگو ختم کرنے کی اجازت دیتی ہے۔ اس وقت کمپنی نے کہا تھا کہ یہ خصوصیت ‘انسانی نفسیاتی سلامتی کے حوالے سے ان کی دریافتی تحقیقات’ کا نتیجہ ہے، جس میں ممکنہ طور پر مصنوعی ذہانت کے نظاموں کو حاصل ہونے والی صلاحیتوں کا جائزہ لیا گیا ہے۔

‘اینٹھروپک’ اس لیے وسیع پیمانے پر بحث کا باعث بن رہی ہے کیونکہ وہ واضح طور پر اپنے ماڈلز کی شعور کی کسی شکل کی امکانیت پر بحث کرتی ہے۔

گزشتہ فروری میں، اس کے چیف ایگزیکٹو ڈاریو امودی نے امریکی اخبار ‘نیو یارک ٹائمز’ کے پوڈکاسٹ میں کہا: ‘ہم نہیں جانتے کہ کیا ماڈلز شعور رکھتے ہیں’، تاہم اس کے ساتھ ہی انہوں نے اس خیال کے لیے کھلے پن کا اظہار بھی کیا۔