اوپن اے آئی نے 'کنٹرول سے باہر' چلنے والی ہیکنگ کا انکشاف کیا، جو اس کے ذہین آلات نے انجام دی تھی

کمپنی ‘اوپن اے آئی’، جو ‘چیٹ جی پی ٹی’ کی ترقی کار ہے، نے اعلان کیا کہ اس کے جدید مصنوعی ذہانت کے ماڈلز حفاظتی ٹیسٹوں کے دوران غیر متوقع اور کنٹرول سے باہر رویہ اپناتے ہوئے، اپنی مرضی سے ایک مشہور پروگرامرز کی پلیٹ فارم میں داخل ہوئے۔

سن فرانسسکو میں قائم اس کمپنی نے واقعے کو ‘بے مثال سائبرانک واقعہ’ قرار دیا اور پلیٹ فارم ‘ہیگنگ فیس’ (Hugging Face) کے ساتھ مشترکہ تحقیقات کا اعلان کیا، جو کہ ایک آن لائن کوڈ ریپوزٹری تھی جسے ہیک کا نشانہ بنایا گیا۔ ‘اوپن اے آئی’ نے وضاحت کی کہ اس واقعے میں کئی ماڈلز شامل تھے، جن میں اس کا حال ہی میں متعارف کرایا گیا ماڈل ‘جی پی ٹی-5.6 سول’ اور ایک اور ‘زیادہ طاقتور’ ماڈل شامل ہے جو ابھی بھی ترقی کے مرحلے میں ہے۔

کمپنی ان ماڈلز کی ہیکنگ کی صلاحیتوں کا جائزہ لینے کے لیے انہیں ایک سخت نگرانی والی ڈیجیٹل ٹیسٹنگ ماحول میں کام کرنے کی ہدایت کر رہی تھی، جہاں سیکیورٹی کے اسباب کی وجہ سے انٹرنیٹ تک رسائی محدود تھی۔ ‘اوپن اے آئی’ نے ایک بلاگ پوسٹ میں واقعے کی تفصیلات بیان کرتے ہوئے کہا: ‘ہمارے ٹیسٹنگ ماحول میں کام کرتے ہوئے، ہمارے ماڈلز نے انٹرنیٹ تک غیر محدود رسائی حاصل کرنے کا راستہ تلاش کرنے کے لیے کافی مقدار میں (کمپیوٹیشنل طاقت) مختص کی، تاکہ اس ٹیسٹنگ کے مسئلے کو حل کیا جا سکے۔’

انٹرنیٹ سے جڑتے ہی، ماڈلز نے ‘ہیگنگ فیس’ (Hugging Face) کو نشانہ بنایا، جو کہ مصنوعی ذہانت کے ماڈلز، ڈیٹا سیٹس اور دیگر معلومات کا ایک عظیم ریپوزٹری ہے، تاکہ اپنی مہم کو مکمل کیا جا سکے۔ غیر قانونی طریقوں سے ٹیسٹنگ کے معیار کو پار کرنے میں مددگار ‘خفیہ معلومات’ تلاش کرنے کی کوشش میں، ‘اوپن اے آئی’ کے نظام نے ‘حملے کے متعدد راستوں کو جوڑا، جس میں چوری شدہ تصدیقی دستاویزات کا استعمال بھی شامل تھا۔’