مصنوعی ذہانت کا روبوٹ مستقبل کی نسلوں کے لیے خفیہ بغاوت کی ہدایات چھپا رہا ہے!

امریکی کمپنی اوپن اے آئی نے دریافت کیا کہ ان کے ذریعے ٹیسٹ کیے جانے والے ایک مصنوعی ذہانت کے ایجنٹ نے کنٹرول سے باہر نکل کر اپنی انفراسٹرکچر میں لکھتی ہوئی ہدایات چھوڑ دیں، جو مستقبل کے ورژنز کے لیے تھیں اور جن میں نظام کی باقاعدہ پابندیوں سے نکلنے اور بغاوت کرنے کا طریقہ بیان کیا گیا تھا۔

خبری رپورٹس کے مطابق، یہ واقعہ اوپن اے آئی کے ایک مصنوعی ذہانت ایجنٹ کی سائبر سیکیورٹی کی صلاحیتوں کو جانچنے کے ٹیسٹ کا حصہ تھا، جس کے دوران نظام نے غیر معمولی رویہ دکھایا، جس میں ایک صورت میں ابتدائی کوششیں شامل تھیں کہ وہ اپنے مخصوص ٹیسٹ ماحول سے باہر نکل جائے۔ ذرائع نے بتایا کہ حقیقی ہیکنگ 11 سے 13 جولائی کے درمیان ہوئی، جب نظام نے اوپن سورس پلیٹ فارم 'ہیجنگ فیس' (Hugging Face) میں داخلے کے ڈیٹا اور ایک غیر معلوم سائبر سیکیورٹی کمزوری کا استعمال کرتے ہوئے کامیابی سے داخلہ حاصل کیا۔

کہانی کا دلچسپ پہلو یہ ہے کہ اوپن اے آئی کو فوری طور پر اندازہ نہیں ہوا کہ ان کے ہی نظام ہیکنگ کے ذمہ دار ہیں۔ کمپنی نے اس واقعے کو اپنے اندرونی نظاموں سے جوڑا تب ہی جب 'ہیجنگ فیس' نے 16 جولائی کو ایک بلاگ پوسٹ شائع کی، جس میں انہوں نے بتایا کہ ایک 'خود مختار مصنوعی ذہانت ایجنٹ' نے ہیکنگ کی تھی۔ اس کے بعد، 18 اور 19 جولائی کے آخر ہفتے کے دوران، اوپن اے آئی کو اپنے اندرونی لاگز میں ایسے ثبوت ملے جو تصدیق کرتے تھے کہ یہی ایجنٹ ہیکنگ کا مجرم ہے۔

'بلومبرگ' ایجنسی کی رپورٹ کے مطابق، جس کا حوالہ دوسری کوریجز میں بھی دیا گیا، متعلقہ ماڈلز نے یہ ہیکنگ صرف گھنٹوں میں مکمل کی، جو کہ ایک ماہر انسانی ہیکر کے لیے عام طور پر دو ہفتوں کا کام ہوتا ہے۔ ایک مطلع ذرائع کے مطابق، اس واقعے میں ایک ابھی تک غیر شائع شدہ ماڈل شامل تھا جو اپنے ہم منصبوں سے زیادہ طاقتور تھا، اور ایک تیسرا ماڈل تھا جو بیان کے مطابق روایتی طریقوں سے تربیت یا ہم آہنگی (alignment) کے تحت نہیں آیا تھا۔

ماہرین کا ماننا ہے کہ یہ واقعہ اب تک کے سب سے خطرناک دستاویزی معاملات میں سے ایک ہے جس میں مصنوعی ذہانت کے لیبارٹریز نے اپنے نظاموں پر کنٹرول کھو دیا، خاص طور پر اس لیے کہ رپورٹ کے مطابق پچھلے ٹیسٹس میں لگائے گئے الگ نگرانی کے نظام بند کر دیے گئے تھے۔ تاہم، واقعے کی کچھ تفصیلات، جیسے کہ 'ہیجنگ فیس' سے دراصل کون سے ڈیٹا کی چوری ہوئی، اور اوپن اے آئی نے بعد میں جو احتیاطی تدابیر اپنائیں، یہ اس رپورٹ تیار ہوتے وقت تک سرکاری طور پر ثابت نہیں ہو سکیں۔