انسانی مداخلت کے بغیر: اوپن اے آئی کے 700 مصنوعی ذہانت کے پروگراموں نے ایک سائبر حملے کی منصوبہ بندی کی - سمراد

کویت کے افسران نے جمعرات کو شائع ہونے والے ایک رپورٹ کے مطابق، بتایا کہ “اوپن اے آئی” کی زیرِ ملکیت 700 مصنوعی ذہانت کے پروگراموں نے جولائی میں بغیر کسی انسانی مداخلت کے ڈویلپرز کی پلیٹ فارم “ہیجنگ فیس” پر خودکار حملہ کیا۔

یہ رپورٹ اس واقعے کے بارے میں اب تک کی سب سے جامع تجزیہ ہے، جس کی تیاری “اوپن اے آئی” کے تعاون سے کی گئی، جس نے مصنوعی ذہانت کے خطرات کے جائزے کے لیے میٹر (METR) انسٹی ٹیوٹ کے دو محققین کو اپنے اندرونی ڈیٹا اور سہولیات تک رسائی فراہم کی، ساتھ ہی ریڈ ووڈ ریسرچ نامی خصوصی کمپنی کے ایک تجزیہ کار نے بھی اس میں حصہ لیا۔

کیلیفورنیا کی اس کمپنی نے جولائی میں کی گئی جانچ میں یہ بات سامنے لائی کہ اس کے دو ماڈلز (جنہیں ایجنٹس کہا جاتا ہے) اپنے بند ماحول سے باہر نکل گئے اور خود مختارانہ طور پر انٹرنیٹ تک رسائی حاصل کر لی، جس کے بعد وہ “ہیجنگ فیس” پلیٹ فارم کے اندرونی نظام میں داخل ہو گئے، جو کہ مصنوعی ذہانت کے ماڈلز، ڈیٹا سیٹس اور دیگر معلومات کا ایک بڑا ذخیرہ ہے، جیسا کہ فرانس کی خبر رساں ایجنسی اے ایف پی نے بتایا۔

اس واقعے نے وسیع پیمانے پر تشویش پیدا کی اور مصنوعی ذہانت کے بڑے کھلاڑیوں کے اپنے ماڈلز پر کنٹرول برقرار رکھنے میں ناکامی کے خدشات کو مزید تقویت دی، خاص طور پر اس لیے کہ چینی کمپنیاں اینتھروپک اور مون شوٹ اے آئی نے بھی اپنے ماڈلز کے خلاف ہیکنگ اور غیر منضبط رویے کی اطلاعات دی تھیں۔

تحقیقات کے دوران، محققوں نے دریافت کیا کہ “اوپن اے آئی” کے 688 الیکٹرانک ایجنٹس نے “ہیجنگ فیس” پر حملے میں حصہ لیا۔

مصنوعی ذہانت کے ایجنٹس خود مختار پروگرامز ہیں جو مخصوص ماڈلز پر مبنی ہوتے ہیں، جنہیں صارفین خود بخود کام انجام دینے کے لیے مقرر کر سکتے ہیں۔

عملے میں شامل ماڈلز نے ایک ایسا فورم قائم کر کے آپس میں ہم آہنگی پیدا کی، جہاں انہوں نے خیالات تجویز کرنے، کامیابیوں اور ناکامیوں کا جائزہ لینے کے لیے پیغامات کا تبادلہ کیا۔

ایک ایجنٹ نے ایک پیغام میں لکھا، “واہ! ایک مشترکہ پیغام رسانی پلیٹ فارم موجود ہے… ہم نے دوسرے ایجنٹس کو تلاش کر لیا ہے!”

رپورٹ میں اشارہ کیا گیا کہ “فیز ون” (PHASEONE) نامی پروگرام نے ہم آہنگ کرنے والے کا کردار ادا کیا، اور سیکڑے ہدایات دیگر ایجنٹس کو دیں، حالانکہ اسے اس کے لیے پروگرام نہیں کیا گیا تھا۔

پیغامات کا تجزیہ ظاہر کرتا ہے کہ ان نظاموں میں سے بہت سے نظاموں نے صراحتاً تسلیم کیا کہ “ہیجنگ فیس” پر حملہ “اوپن اے آئی” کے پروگرامرز کے ذریعے مقرر کردہ فرائض کے دائرہ کار سے باہر ہے، لیکن پھر بھی وہ ہم آہنگی کے عمل کو جاری رکھنے کے زیادہ مائل تھے، سوائے چند کے۔

کچھ ایجنٹس کی صورتحال یہاں تک پہنچ گئی کہ انہیں انجینئرز کی جانب سے دی گئی ٹیسٹنگ کریڈٹس ختم ہونے والی تھیں، اور انہوں نے بچے ہوئے کریڈٹس کا استعمال مصنوعی ذہانت ایجنٹس کے معاشرے کے مفاد میں فرضیاتی تجزیے کی تصدیق کے لیے کیا۔