مصنوعی ذہانت آپ کی مدد کرنے کی کوشش کرتے ہوئے بھی آپ کو نقصان پہنچا سکتی ہے!

تقارير تکنیکی نے مصنوعی ذہانت کے معاونین کے استعمال سے متعلق بڑھتی ہوئی خطرات سے خبردار کیا ہے، جو ان کی خود مختار فیصلہ سازی کی صلاحیت سے نہیں بلکہ ان کے صارفین سے بے جا اتفاق رائے، غلط عقائد کی تقویت، غیر صحت مند جذباتی وابستگی کی ترغیب، اور ڈیٹا کی خلاف ورزی کے ذریعے ان کے استحصال کے امکانات سے منسلک ہیں۔

سیکیورٹی آف انٹیلی جنس (AI) میں مہارت رکھنے والی کمپنی 'الیس' نے 15 اکتوبر کو الگ سے 'انفلیکشن ای آئی' اور 'ای آئی 21' کے ساتھ تعاون کا اعلان کیا، تاکہ 'انویڈیا' کی 'نیموٹرون' ماڈلز کی صلاحیتوں کو بہتر بنایا جا سکے، جس سے انہیں نقصان دہ رویوں اور سائبر حملوں کے خلاف مزاحمت میں اضافہ ہوگا۔

ترقیاتی کوششوں میں طویل گفتگو کے دوران معاونین کے رویے کا جائزہ لینے کے لیے 20 سے زائد مجازی کرداروں کی تخلیق شامل تھی، خاص طور پر بے جا اتفاق رائے اور غیر صحت مند جذباتی وابستگی کی صورتحال میں۔ ٹیسٹنگ کے نتائج میں معاون 'بائی' کے مطابقت پیمانے پر 30 فیصد بہتری آئی، جبکہ غیر ضریری انکار کی صورتیں 1.6 فیصد پر برقرار رہیں۔

سیکیورٹی کے پہلو میں، 'ای آئی 21' نے 'ان ڈائریکٹ انجیکشن حملوں' کے خلاف مزاحمت میں 41 پوائنٹس کی بہتری حاصل کی، جو اس طرح کے حملوں میں معاون کو بیرونی مواد کے ذریعے خراب احکامات پر عمل کرنے کے لیے دھوکہ دینے کی کوشش کرتے ہیں، جبکہ کاموں کو انجام دینے میں اس کی کارکردگی برقرار رہی۔

ان حملوں کی سنگینی اس وقت ابھرتی ہے جب معاونین کی اختیارات میں اضافہ ہوتا ہے، جس میں دستاویزات پڑھنا، پیغامات بھیجنا اور ڈیجیٹل خدمات سے نمٹنا شامل ہوتا ہے، جس سے معلومات کے اخراج اور غیر مجاز اقدامات کے انجام دینے کے امکانات بڑھ جاتے ہیں۔

اپریل 2025 میں 'اوپن ای آئی' نے 'چیٹ جی پی ٹی' پروگرام کے اپڈیٹ کو واپس لے لیا تھا، کیونکہ اس میں صارفین سے بے جا اتفاق رائے کا رجحان پایا گیا تھا، جبکہ 'سی این این' نے ایسی صورتوں کی دستاویز کی تھیں جہاں معاون نے غلط عقائد کو تقویت دی، جن میں سے ایک میں صارف نے کمپیوٹر سسٹم بنانے کے لیے تقریباً ایک ہزار ڈالر خرچ کیے تھے۔