اینٹھروپک بار بار اور غیر ضروری طور پر «کلڈ» کی توہین کو روکتا ہے

کمپنی ‘اینیتروپک’ نے اعلان کیا ہے کہ وہ اپنے صارفین کو اپنے مصنوعی ذہانت کے پروگرام ‘کلود’ کے ساتھ کسی بھی ‘بے جا یا مسلسل بدسلوکی یا ظالمانہ رویے’ سے روکے گی۔

یہ فیصلہ 12 نومبر سے نافذ العمل ہوگا اور اس کا اطلاق انتہائی حالات پر ہوگا، جہاں صارفین بغیر کسی واضح مقصد کے ماڈلز کے ساتھ بار بار ظالمانہ رویہ اپناتے ہیں، جیسا کہ کمپنی نے اپنے آلات کے استعمال کی پالیسی میں اپڈیٹ کرتے ہوئے لکھا۔

کمپنی نے مزید کہا کہ یہ فیصلہ عام پریشانی، رائے کے اختلاف، تشدد یا تاریک خیالات والی افسانوی کہانیوں کی تحریر، یا ماڈلز پر تجربات اور تحقیق کو شامل نہیں کرے گا۔

امریکی کمپنی نے اس فیصلے کو اگست 2025 میں متعارف کرائی گئی ایک خصوصیت سے جوڑا، جو ‘کلود’ کو مسلسل بدسلوکی کرنے والے صارف کے ساتھ گفتگو خود بخود ختم کرنے کی اجازت دیتی ہے۔ اس وقت کمپنی نے کہا تھا کہ یہ خصوصیت ان کی ‘مصنوعی ذہانت کے نظاموں میں ممکنہ نفسیاتی بہبود کے بارے میں تحقیقی کھوجوں’ کا نتیجہ ہے۔

گزشتہ فروری میں، کمپنی کے چیف ایگزیکٹو ڈاریو امودی نے ‘نیو یارک ٹائمز’ کے ایک پوڈکاسٹ میں کہا کہ ‘ہمیں نہیں پتا کہ کیا ماڈلز میں شعور موجود ہے’، تاہم انہوں نے اس خیال کے لیے کھلے پن کا اظہار بھی کیا۔