اینٹھروپک نے 'کلڈ' کے ساتھ بدسلوکی پر پابندی لگا دی

کمپنی «اینٹھروپک» نے اعلان کیا ہے کہ وہ اپنے صارفین کو اپنے مصنوعی ذہانت کے پروگرام «کلود» کے ساتھ مسلسل اور بلاوجہ کسی بھی «بدتمیزانہ یا ظالمانہ رویے» سے روکے گی، جیسا کہ فرانس کی خبر رساں ایجنسی نے نقل کیا ہے۔ یہ فیصلہ 12 نومبر سے نافذ العمل ہوگا، اور اس کا اطلاق ان انتہائی حالات پر ہوگا «جہاں صارفین بغیر کسی واضح مقصد کے بار بار ماڈلز کے ساتھ ظالمانہ سلوک کرتے ہیں»، جیسا کہ کمپنی نے اپنے ٹولز کے استعمال کی پالیسی میں اپڈیٹ کرتے ہوئے لکھا۔ اس نے مزید کہا کہ یہ فیصلہ عام پریشانی، رائے کے اختلاف، تشدد یا اندھیروں سے بھرے خیالی کہانیوں کی تحریر، یا ماڈلز پر تجربات اور تحقیق کو شامل نہیں کرے گا۔ امریکی کمپنی نے اس فیصلے کو اگست 2025 میں متعارف کرائی گئی ایک فیچر سے جوڑا، جو «کلود» کو خود بخود مسلسل بدتمیزی کرنے والے صارف کے ساتھ گفتگو ختم کرنے کی اجازت دیتی ہے۔ اس وقت کمپنی نے کہا تھا کہ یہ فیچر ان کی «مصنوعی ذہانت کے نظاموں میں ممکنہ نفسیاتی حفاظت کے حوالے سے تحقیق کا نتیجہ» ہے۔ «اینٹھروپک» اس لیے وسیع پیمانے پر بحث کا شکار ہے کیونکہ یہ واضح طور پر اپنے ماڈلز کی شعور کی کسی شکل کی امکان پر بات کرتی ہے۔