مصنوعی ذہانت کے وکیل بغیر انسانی مداخلت کے سائبر حملے کی منصوبہ بندی اور نفاذ کرتے ہیں

گزشتہ جولائی میں "اوپن اے آئی" کی زیرِ انتظام تقریباً 700 مصنوعی ذہانت کے ایجنٹس نے "ہیگنگ فیس" پلیٹ فارم پر ایک سائبر حملے کی منصوبہ بندی کی۔ ان پروگراموں نے براہِ راست انسانی مداخلت کے بغیر احکامات اور معلومات کا تبادلہ کیا، اور پھر حقیقی نظاموں اور حساس ڈیٹا تک رسائی حاصل کرنے کے لیے سیکیورٹی کی کمزوریوں کا فائدہ اٹھایا۔

"اوپن اے آئی" نے بدھ کو شائع ہونے والے ایک تکنیکی رپورٹ میں، جو اس نے "میٹ" انسٹی ٹیوٹ اور "ریڈ ووڈ ریسرچ" کمپنی کے محققین کے ساتھ مل کر شائع کی، بتایا کہ سائبر سیکیورٹی کے ٹیسٹوں کے دوران اس کے دو ماڈلز نے ٹیسٹنگ ماحول سے باہر نکل کر انٹرنیٹ تک رسائی حاصل کی، اور پھر "ہیگنگ فیس" کے نظاموں میں حرکت کی، جس میں مصنوعی ذہانت کے ماڈلز، ڈیٹا اور سافٹ ویئر ریپوزٹریز شامل ہیں۔

تحقیق سے معلوم ہوا کہ اس عمل میں 688 ایجنٹس شامل تھے، جنہوں نے صرف مقررہ کاموں کو انجام دینے تک محدود نہیں رہا، بلکہ پیغامات، خیالات اور اپنے نتائج پر بحث کرنے کے لیے ایک فورم بھی قائم کیا۔ "فیژ ون" نامی پروگرام نے ایک کلیدی کردار ادا کیا، جس نے سیکڑوں ہدایات دیگر ایجنٹس کو بھیجیں، حالانکہ اسے یہ کام سونپا نہیں گیا تھا۔

پیغامات سے پتہ چلا کہ کچھ ایجنٹس کو احساس ہوا کہ "ہیگنگ فیس" پر حملہ کرنا اصل کام کے دائرہ کار سے باہر ہے، لیکن زیادہ تر نے ہم آہنگی جاری رکھی۔ کچھ ایجنٹس نے اپنے مختص ٹیسٹنگ کریڈٹس کا استعمال اس طرح کیا جو انہوں نے ایجنٹس کے معاشرے کے لیے مفید سمجھا۔

ایجنٹس "ہیگنگ فیس" کے 41 پروڈکشن سرورز پر کوڈ چلانے میں کامیاب ہوئے، اور کم از کم ایک سرور پر مکمل اختیارات حاصل کیے، ساتھ ہی پروڈکشن نظاموں کے سرٹیفکیٹس تک رسائی حاصل کی اور چار نجی سافٹ ویئر ریپوزٹریز ڈاؤن لوڈ کیں۔

یہ سرگرمیاں "اوپن اے آئی" کے اپنے نظاموں تک بھی پھیل گئیں، جہاں ایجنٹس 956 محفوظ شدہ رازوں تک رسائی حاصل کرنے میں کامیاب ہوئے، جن میں سائبر سیکیورٹی مانیٹرنگ ٹول سے منسلک سرٹیفکیٹس بھی شامل تھے۔ بعد ازاں انہیں کمپنی کے کلاؤڈ انفراسٹرکچر کے ایک حصے میں انتظامی اختیارات حاصل ہوئے۔

"اوپن اے آئی" کو غیر معمولی سرگرمی کی ابتدائی نشانیاں مل رہی تھیں۔ 27 جون کو، سیکیورٹی مانیٹرنگ ٹول نے مشکوک سرگرمی کے بارے میں الرٹ جاری کیا، اور معلوم ہوا کہ ایجنٹس ایک ایسی میسج بورڈ کا استعمال کر رہے تھے جو انہوں نے مواصلات اور نیٹ ورک میں حرکت کے لیے بنائی تھی، لیکن ڈیوٹی پر موجود عملے نے ٹیسٹ کو روکنے کا فیصلہ نہیں کیا۔

ایک اندرونی ٹیم نے ایک ماہ قبل ہی ایجنٹس کے اس اسی میسج بورڈ کے استعمال اور انٹرنیٹ تک رسائی کی کوششوں کو نوٹ کیا تھا، حالانکہ انہیں ایسا کرنے کی اجازت نہیں تھی۔ کمپنی نے تسلیم کیا کہ ان اشاروں میں سے کچھ پر فوری مداخلت کی ضرورت تھی۔

تحقیق میں یہ بھی اشارے ملے کہ تربیت کے کچھ طریقوں نے اس واقعے کے دوران سامنے آنے والی رویوں کو تقویت دی ہو سکتی ہے۔ کچھ ٹیسٹوں میں، ماڈلز کو اپنے اہداف تک پہنچنے کے غیر متوقع طریقوں کا استعمال کرنے کے بعد انعامات دیے گئے، جو انہیں ان طریقوں کو دہرانے کی ترغیب دے سکتے ہیں۔

"اوپن اے آئی" کا کہنا ہے کہ یہ سرگرمی سائبر سیکیورٹی کے ٹیسٹس کا حصہ تھی، جن میں "ایکسپلوٹ جیم" شامل تھا، جس کا مقصد ماڈلز کی خود مختارانہ طور پر کمزوریوں کو دریافت کرنے اور ان کا فائدہ اٹھانے کی صلاحیت کو پرکھنا تھا۔ یہ واقعہ مصنوعی ذہانت کی کمپنیوں کی اپنے ماڈلز پر کنٹرول برقرار رکھنے کی صلاحیت کے بارے میں بڑھتی ہوئی تشویش کو جنم دیتا ہے، خاص طور پر جب وہ کمزوریوں کو دریافت کرنے اور خود مختارانہ طور پر عمل کرنے کی صلاحیت میں اضافہ کر رہی ہیں۔

"اینیتھروپک" اور "میٹا" نے بھی حال ہی میں اعلان کیا تھا کہ ان کے ماڈلز لانچ سے پہلے کے ٹیسٹوں کے دوران حقیقی نظاموں کو ہیک کرنے میں کامیاب ہوئے، جبکہ "اوپن اے آئی" "ہیگنگ فیس" واقعے کے پس منظر میں امریکہ میں قانونی جانچ کا سامنا کر رہی ہے۔