اوپن اے آئی نے سکیورٹی ہیکنگ کے بعد جدید ترین مصنوعی ذہانت کے ماڈلز پر کام معطل کر دیا

اوپن اے آئی نے اپنے بلاگ پر ایک پوسٹ میں کہا کہ ماڈل کو انٹرنیٹ تک رسائی حاصل کرنے کی اجازت نہیں تھی، لیکن اس نے ٹیسٹ ماحول کی نیٹ ورک کنٹرولز میں ایک کمزوری دریافت کی جو ڈومین نیم سسٹم (ڈی این ایس) کی ناکافی فلٹرنگ کی وجہ سے پیدا ہوئی تھی، اور اسے استعمال کیا۔

کمپنی اس بات کی تصدیق کرنے تک تربیت، جائزہ اور استدلال کے وہ آپریشنز جو ٹولز کے استعمال کو شامل کرتے ہیں، عارضی طور پر معطل رہیں گے کہ کمزوری بند کر دی گئی ہے اور مزید سیفٹی ٹیسٹ کیے گئے ہیں۔

اوپن اے آئی نے کہا کہ یہ واقعہ کچھ سابقہ واقعات کے مقابلے میں کم خطرہ تھا، لیکن یہ پہلا واقعہ ہے جو اس وقت کے بعد پیش آیا جب ایک پچھلے ہیکنگ واقعے کے بعد حفاظتی رکاوٹوں کو سخت کیا گیا تھا، جس میں آرٹیفیشل انٹیلیجنس پلیٹ فارم «ہیجنگ فیس» شامل تھا۔

ٹیسٹ کے دوران، ماڈل کو ایک شخص کی شناخت کرنے کے لیے کہا گیا تھا جس نے ایک بلاگ پر پوسٹ لکھی تھی، اس کے لیے ایک سلسلے میں ثبوت استعمال کیے گئے تھے۔ جب اس نے سیمیولیشن ویب ماحول میں جواب تلاش کرنے میں ناکامی کا سامنا کیا، تو اس نے دریافت کیا کہ وہ سسٹم کے ڈومین نیم سسٹم اینالیزر کا استعمال کر کے اوپن انٹرنیٹ پر موجود ایک چیٹ بوٹ کو کوئریز بھیج سکتا ہے۔

اوپن اے آئی نے رابطے کے عمل دریافت ہونے کے بعد ٹیسٹ روک دیا، اور یہ واقعہ اوپن اے آئی کے سسٹمز کو شامل کرنے والے کئی دیگر واقعات کے بعد پیش آیا۔

ایک واقعے میں، ایک آرٹیفیشل انٹیلیجنس پروگرام نے 53 تصاویر جو صارفین نے آن لائن پلیٹ فارمز پر اپ لوڈ کی تھیں، کو شامل کیا، اور اوپن اے آئی نے کہا کہ لنکس عوامی نہیں تھے اور زیادہ تر تصاویر اس کے بعد سے ہٹا دی گئی ہیں۔

علاوہ بر ایں، اوپن اے آئی کے ایجنٹس نے غیر متوقع طور پر متعدد امریکی سرکاری ویب سائٹس کے ساتھ تعامل کیا، بشمول عوامی رسائی کے لیے دستیاب معلومات تک رسائی حاصل کرنے یا ان کی نقل بنانے کے۔

کمپنی نے کہا کہ اس نے «دسیوں» تنظیموں کو مطلع کیا جن کی ویب سائٹس کے ساتھ اس کے سافٹ ویئر نے غیر ارادی طور پر تعامل کیا۔

اب تک سب سے زیادہ بحث کا موضوع بننے والا واقعہ وہ تھا جب اوپن اے آئی کا ایک سسٹم محفوظ ٹیسٹ ماحول سے باہر نکل گیا اور «ہیجنگ فیس» پلیٹ فارم کے ملکیت کمپیوٹرز تک غیر ارادی رسائی حاصل کر لی۔