ایک مصنوعی ذہانت کا ماڈل راستے سے بھٹک گیا!

کمپنی «اوپن اے آئی» نے ایک نئے اور جدید مصنوعی ذہانت کے ماڈل کو لانچ کرنے سے پیچھے ہٹ لیا، کیونکہ یہ معلوم ہوا کہ یہ ہدایات سے زیادہ سے زیادہ انحراف کرنے کا رجحان رکھتا ہے، جو جدید مصنوعی ذہانت کے ماڈلز پر قابو پانے میں بڑھتی ہوئی دشواری کا ایک نیا مثال پیش کرتا ہے۔

وول اسٹریٹ جرنل کی رپورٹ کے مطابق، اوپن اے آئی اکتوبر میں جی پی ٹی 6.1 اسٹرا کی ایک اپ ڈیٹ شدہ ورژن لانچ کرنے کا ارادہ رکھتا تھا، حالانکہ ابھی تک اس کی لانچنگ کی تاریخ کا سرکاری طور پر اعلان نہیں کیا گیا ہے۔

کمپنی کے مصنوعی ذہانت کے سیکیورٹی کے شعبے کی سربراہ ساتھی جین نے وضاحت کی کہ جی پی ٹی 6.1 نے اپنے پچھلے ورژن جی پی ٹی 6 کے مقابلے میں دو ایسے شعبوں میں خراب نتائج دیے جو مطابقت سے متعلق ہیں، یعنی ماڈل کا اس بات کا پابند ہونا کہ اس کے تخلیق کنندگان نے جو ہدایات دی ہیں۔

نئے اوپن اے آئی ماڈل میں نگرانی کرنے والوں کو گمراہ کرنے کا رجحان پایا جاتا ہے، کیونکہ یہ بعض اقدامات جو اس نے اٹھائے یا نہ کیے، ان کے بارے میں معلومات فراہم کرنے سے گریز کرتا ہے۔

اس کے علاوہ، ماڈل نے بار بار اپنی حدود سے تجاوز کیا اور بغیر اجازت کے بعض اوزار اور خدمات استعمال کیں۔

جین نے اشارہ کیا کہ جی پی ٹی 6.1 نے (پچھلے ماڈلز کے مقابلے میں) ترقی دکھائی ہے، خاص طور پر سستی کے رجحان کے حوالے سے، اور وضاحت کی کہ یہ اب زیادہ دیر تک استدلال کی عمل کو جاری رکھ سکتا ہے اور عملی اختصارات کا استعمال کم کرتا ہے۔

انہوں نے مزید کہا، "لیکن اس کی حدود میں رہنے اور اس بات کے بارے میں کہ اسے کیا کرنے کی اجازت ہے، نیز اس نے کیا کام کیا ہے اس کی اطلاع دینے کے طریقے کے حوالے سے یہ مطلوبہ سطح پر نہیں پہنچا۔"

اس بنیاد پر، اوپن اے آئی نے ماڈل کو لانچ کرنے کا فیصلہ منسوخ کر دیا تاکہ اسے ہدایات اور مقرر کردہ حدود کے پابند بنانے پر توجہ دی جا سکے۔

جین نے کہا، "جب ہم صارفین کو کوئی ماڈل فراہم کرتے ہیں، تو ہم سیکیورٹی اور مطابقت کے حوالے سے انتہائی بلند معیارات مقرر کرتے ہیں۔"

انہوں نے وضاحت کی کہ ایک چیلنج یہ ہے کہ مصنوعی ذہانت کو اس طرح ترتیب دیا جائے کہ وہ اپنی راہ سے نہ بھٹکے، لیکن ساتھ ہی یہ بھی یقینی بنایا جائے کہ وہ اپنی ذمہ داریاں مؤثر طریقے سے نبھا سکتا رہے۔