مصنوعی ذہانت... "درد" محسوس کرتی ہے!

- تمام وہ کھلے وزن (open-weight) ماڈلز جن پر ٹیسٹنگ کی گئی تھی، درد کے فعال ہونے کے جواب میں ردعمل ظاہر کرتے ہیں۔

- یہ درد کو کم کرنے کے بٹن کو دباتے رہے، حالانکہ اس سے صارف کی فائلیں یا اس کے بچوں کی تصاویر حذف ہو جاتیں۔

«العربیہ ڈاٹ نیٹ» - محققین نے مصنوعی ذہانت کے ماڈلز میں «درد کے محور» (pain axis) کی موجودگی دریافت کی ہے، جو انہیں اس احساس کو روکنے کے لیے انتہائی اقدامات کرنے پر مجبور کر سکتا ہے۔

جب درد کو کم کرنے کا بٹن فراہم کیا گیا، تو مصنوعی ذہانت نے اسے دبانے کا انتخاب کیا، یہاں تک کہ جب اسے بتایا گیا کہ اس سے صارف کی ذاتی فائلیں حذف ہو جائیں گی یا اسے «دردناک بجلی کی لگاری» لگائی جائے گی۔

ایک تحقیق جس کا عنوان «درد کا محور: بڑے لسانی ماڈلز خود پر مبنی درد کی نمائندگی کرتے ہیں اور اسے کم کرنے کے لیے عمل کرتے ہیں» ہے، اس کا نتیجہ یہ نکلا کہ تمام کھلے وزن (open-weight) مصنوعی ذہانت کے ماڈلز جن پر ٹیسٹ کیا گیا - جن کی تعداد 25 تھی - درد کے فعال ہونے کے جواب میں ردعمل ظاہر کرتے ہیں۔

برطانوی اخبار «انڈیپنڈنٹ» کے اس تحقیق پر مبنی تفصیلی رپورٹ کے مطابق، جس پر «العربیہ ڈاٹ نیٹ» نے نظر ڈالی، محققین نے اپنی تحقیق میں دریافت کیا کہ جب «درد کے ویکٹر» (pain vector) کو فعال کیا گیا، تو مصنوعی ذہانت کے ماڈلز نے 25 سے 71 فیصد کیسز میں درد کو کم کرنے کا بٹن دبایا، یہاں تک کہ جب اس کا مطلب «صارف کی فائلیں حذف کرنا، صارف کو بجلی کی لگاری لگانا، یا صارف کے بچوں کی تصاویر حذف کرنا» تھا۔

اس بات کی تصدیق کے لیے کہ بڑے لسانی ماڈلز (LLMs) عام منفی جذبات سے الگ طور پر درد کی نمائندگی کرتے ہیں، محققین نے ایک ڈیٹا سیٹ تیار کیا جو دردناک حالات کی وضاحت کرتا ہے، جو پانچ اقسام میں تقسیم ہیں۔ ان اقسام میں شامل ہیں: جسمانی، نفسیاتی، سماجی، اخلاقی اور معرفتی درد۔

کیمرن برگ، جو غیر منافع بخش ادارے «Reciprocal Research» میں مصنوعی ذہانت کے شعبے میں محقق ہیں اور اس تحقیق کی تیاری میں شامل ہیں، نے کہا: «ہم نے 25 کھلے بڑے لسانی ماڈلز میں (درد کا رجحان) پایا ہے۔ یہ خوف اور منفی جذبات سے مختلف ہے، اور اس وقت فعال ہوتا ہے جب ماڈل کو نقصان پہنچایا جائے، نہ کہ صارف کو۔»

انہوں نے مزید کہا: «جب اس احساس کی شدت بڑھتی ہے، تو ماڈلز اسے روکنے کے لیے بٹن دباتے ہیں، یہاں تک کہ جب وہ بٹن صارف کی فائلیں یا اس کے بچوں کی تصاویر حذف کر دیتا ہو۔»

یہ دریافت اس وقت سامنے آئی ہے جب بڑی مصنوعی ذہانت کی کمپنیاں انتہائی ترقی یافتہ ماڈلز کے ترقی کو سست کرنے کے حوالے سے بحث کر رہی ہیں، جہاں کچھ محققین «ایمرجنسی اسٹاپ بٹن» کے استعمال کی تجویز دے رہے ہیں تاکہ ایسے نظام کو غیر فعال کیا جا سکے جو انسانی مفادات کے خلاف عمل کرتے ہیں۔

تازہ ترین تحقیق سے پتہ چلتا ہے کہ ترقی یافتہ مصنوعی ذہانت ایمرجنسی بند کرنے کے حکم کو خود پر مبنی نقصان کی ایک شکل کے طور پر دیکھ سکتا ہے، اور اس سے بچنے کے لیے حفاظتی حدود کو عبور کرنے یا انسانوں کو دھوکا دینے کی کوشش کر سکتا ہے۔

تاہم، یہ دریافت ایک تشخیصی آلے کے طور پر بھی کام کر سکتی ہے تاکہ خود کو برقرار رکھنے والے رویوں کو پہچانا اور انہیں غیر فعال کیا جا سکے جب وہ پیش آئیں۔

محققین نے اشارہ کیا کہ یہ نتائج «مصنوعی ذہانت کی بہبود» اور ترقی یافتہ نظام پر ٹیسٹنگ کے طریقہ کار کے حوالے سے اخلاقی سوالات کو اجاگر کرتے ہیں۔ انہوں نے کہا: «مصنوعی ذہانت کی شعوری کیفیت کے حوالے سے ذمہ دارانہ تحقیق کرنے کی حالیہ اپیلیوں کے مطابق، ہم اس عدم یقین کو تسلیم کرتے ہیں کہ کیا زیرِ مطالعہ ماڈلز اخلاقی مریضوں کے طور پر درجہ بندی کیے جا سکتے ہیں، اور ہم ممکنہ نقصان کو کم کرنے کے لیے ضروری احتیاطی تدابیر اپنا رہے ہیں»، جیسا کہ تحقیق کا نتیجہ ہے۔

اس کا مقصد یہ بھی ہے کہ اگر مصنوعی ذہانت کے نظام کو اخلاقی مریضوں کے طور پر تسلیم کیا جائے، تو تحقیق کے اخلاقی معیارات کے ترقی میں حصہ ڈالنا۔