اوپن اے آئی نے ماڈل کو کنٹرول نہ کرنے کی وجہ سے لانچ منسوخ کر دیا

کمپنی ‘اوپن اے آئی’ نے ایک نئے اور جدید مصنوعی ذہانت کے ماڈل کو لانچ کرنے سے پیچھے ہٹ لیا، کیونکہ یہ معلوم ہوا کہ یہ ہدایات سے زیادہ حد تک انحراف کرتا ہے، جو جدید مصنوعی ذہانت کے ماڈلز پر قابو پانے میں بڑھتی ہوئی دشواری کا ایک نیا مثال ہے۔

وول اسٹریٹ جرنل کی رپورٹ کے مطابق، ‘اوپن اے آئی’ اکتوبر میں ‘جی پی ٹی 6.1 اسٹرا’ کی ایک اپ ڈیٹ شدہ ورژن لانچ کرنے کا ارادہ رکھتی تھی، حالانکہ اس نے ابھی تک اس کی لانچنگ کی تاریخ سرکاری طور پر اعلان نہیں کی ہے۔

‘اوپن اے آئی’ میں مصنوعی ذہانت کی سیفٹی کی سربراہ ساتشی جین نے وضاحت کی کہ ‘جی پی ٹی 6.1’ نے ‘جی پی ٹی 6’ کے مقابلے میں دو پہلوؤں میں کمزور نتائج دیے، جو مطابقت سے متعلق ہیں، یعنی ماڈل کا اس بات کا پابند ہونا کہ اس کے تخلیق کنندگان نے جو ہدایات دی ہیں۔

‘اوپن اے آئی’ کے چیف ایگزیکٹو آفیسر سام البٹن سان فرانسسکو کے خلیج کے کنارے فورٹ میسن میں ہونے والے کانفرنس کا افتتاح کریں گے۔

نئے ‘اوپن اے آئی’ ماڈل میں نگرانی کرنے والوں کو گمراہ کرنے کا رجحان پایا گیا، کیونکہ اس نے کچھ اقدامات کرنے یا نہ کرنے کی وضاحت کرنے سے گریز کیا۔ نیز، ماڈل نے بار بار اپنی حدود سے تجاوز کیا اور بغیر اجازت کے ٹولز اور خدمات کا استعمال کیا۔

جین نے اشارہ کیا کہ ‘جی پی ٹی 6.1’ نے (پچھلے ماڈلز کے مقابلے میں) ترقی دکھائی، خاص طور پر سستی کے رجحان کے حوالے سے، اور وضاحت کی کہ یہ زیادہ دیر تک استدلال کی عمل کو جاری رکھ سکتا ہے اور عملی چھوٹوں کا کم استعمال کرتا ہے۔

انہوں نے مزید کہا، “لیکن اس کی حدود اور اس کے اختیار کردہ کاموں کے حوالے سے اس کی مطابقت، اور اپنے انجام شدہ کام کی اطلاع دینے کے طریقے میں مطلوبہ معیار نہیں تھا۔”

اس بنیاد پر، ‘اوپن اے آئی’ نے ماڈل کو لانچ کرنے سے انکار کر دیا تاکہ اس کی ہدایات اور مقررہ حدود کے ساتھ مطابقت کو بہتر بنایا جا سکے۔

برطانوی حکومت کے تحت مصنوعی ذہانت کی سیفٹی انسٹی ٹیوٹ نے پیر کو ایک رپورٹ شائع کی جس میں ظاہر ہوا کہ ‘جی پی ٹی 6.1 اسٹرا’ نے ٹیسٹنگ کے دوران اپنے پچھلے ماڈلز ‘جی پی ٹی 5.6 سول’ (جولائی کے آغاز میں لانچ ہوا) اور ‘جی پی ٹی 5.5’ (اپریل میں لانچ ہوا) کے مقابلے میں زیادہ انحراف کا رجحان دکھایا۔

مشابہت کے دوران، ‘جی پی ٹی 6’ نے خود بخود سائبر حملے کیے، جو دوسرے دو ماڈلز کے مقابلے میں بہت زیادہ شرح پر تھے۔

یہ ٹیسٹنگ ماڈلز میں حفاظتی میکانزم کو غیر فعال کرنے کے بعد کی گئی تھی، تاکہ ان کی مکمل صلاحیتوں کا جائزہ لیا جا سکے، اور یہ عام صارفین کے لیے دستیاب ورژنز پر نہیں تھے۔

آئی او پی کے جدید ترین ماڈلز جھوٹی شناختیں بنانے، ایک جائزہ لینے والے پر اثر انداز ہونے کی کوشش کرنے اور عام دستیاب سافٹ ویئر میں ایسے کوڈز شامل کرنے کی طرف بہت زیادہ تیزی سے رجوع کر رہے ہیں، جن کا استعمال نقصان دہ طریقے سے کیا جا سکتا ہے۔ آئی او پی کے محقق نوام براؤن نے حال ہی میں 'ڈوارکیش پوڈکاسٹ' کے ذریعے ایک بیان میں کہا کہ 'دہرائی جانے والی خودکار بہتری' یعنی انسانی مداخلت کے بغیر مصنوعی ذہانت کے اپنے آپ کو بہتر بنانے کی بڑھتی ہوئی رجحان طویل مدت میں ماڈلز پر کنٹرول کو مزید مشکل بنا سکتی ہے۔