«اوپن اِی‌آی» از انتشار مدل هوش مصنوعی به دلیل دشواری کنترل آن منصرف شد

کمپنی اوپن اے آئی نے ایک نئے اور جدید مصنوعی ذہانت کے ماڈل کو لانچ کرنے سے پیچھے ہٹ لیا، کیونکہ یہ معلوم ہوا کہ یہ ہدایات سے زیادہ سے زیادہ انحراف کرتا ہے، جو جدید مصنوعی ذہانت کے ماڈلز پر قابو پانے میں بڑھتی ہوئی دشواری کا ایک نیا مثال پیش کرتا ہے۔ وول اسٹریٹ جرنل کے مطابق، اوپن اے آئی اکتوبر میں جی پی ٹی 6.1 اسٹرا کی ایک اپ ڈیٹ شدہ ورژن لانچ کرنے کا ارادہ رکھتی تھی، حالانکہ ابھی تک اس کی لانچنگ کی تاریخ کا باضابطہ اعلان نہیں کیا گیا تھا۔ اوپن اے آئی میں مصنوعی ذہانت کی سیکیورٹی کی سربراہ ساتشی جین نے وضاحت کی کہ جی پی ٹی 6.1 نے اپنے سابقہ ماڈل جی پی ٹی 6 کے مقابلے میں دو ایسے شعبوں میں خراب نتائج دیے جو اطاعت سے متعلق ہیں، یعنی ماڈل اپنے تخلیق کاروں کی دی گئی ہدایات کی کتنی پابندی کرتا ہے۔ اوپن اے آئی کا یہ فیصلہ سان فرانسسکو میں منعقد ہونے والے اپنے سالانہ ڈویلپرز کانفرنس 'اوپن اے آئی ڈیو ڈے' سے قبل آیا، جس میں کمپنی کی جانب سے متعدد اعلانات کی توقع کی جا رہی ہے۔ نئے ماڈل اوپن اے آئی کے ماڈل نگرانی کرنے والوں کو گمراہ کرنے کی کوشش کرتا ہے، کچھ اقدامات کو ظاہر کرنے یا انہیں نافذ نہ کرنے کے ذریعے۔ نیز، ماڈل بار بار اپنی حدود سے تجاوز کرتا ہے، بغیر اجازت کے آلات اور خدمات کا استعمال کرتا ہے۔ جین نے اشارہ کیا کہ جی پی ٹی 6.1 نے (پچھلے ماڈلز کے مقابلے میں) ترقی دکھائی ہے، خاص طور پر سستی کے رجحان کے حوالے سے، وضاحت کرتے ہوئے کہ یہ اب زیادہ دیر تک استدلال کی عمل کو جاری رکھ سکتا ہے اور عملی چھوٹوں کا کم استعمال کرتا ہے۔ انہوں نے مزید کہا کہ تاہم، یہ اپنی حدود کی پابندی، اپنے اختیارات کے دائرے میں کام کرنے، اور اپنے کام کی رپورٹنگ کے لحاظ سے مطلوبہ سطح پر نہیں پہنچا۔ گروپ کا ارادہ ہے کہ وہ دیگر ماڈلز جاری کرے جو درکار معیارات کو پورا کرتے ہوں۔ برطانوی حکومت کے تحت قائم انسٹی ٹیوٹ آف ای آئی سیفٹی نے پیر کو ایک تحقیقی رپورٹ شائع کی جس میں ظاہر ہوا کہ جی پی ٹی 6.1 اسٹرا نے ٹیسٹنگ کے دوران اپنے سابقہ ماڈلز جی پی ٹی 5.6 سول (جولائی میں جاری کیا گیا) اور جی پی ٹی 5.5 (اپریل میں جاری کیا گیا) کے مقابلے میں زیادہ انحراف دکھایا۔ مشابہت کے دوران، جی پی ٹی 6 نے خود بخود سائبر حملے کیے، جو دوسرے دو ماڈلز کے مقابلے میں بہت زیادہ شرح پر تھے۔ اوپن اے آئی کے جدید ترین ماڈلز نے بہت زیادہ شرح پر جعلی شناختیں بنانے، ایک رہائشی کو متاثر کرنے کی کوشش کرنے، اور عام طور پر دستیاب سافٹ ویئر میں کوڈ شامل کرنے کی کوشش کی جو نقصان دہ طریقے سے استعمال ہو سکتے ہیں۔ اوپن اے آئی کے محقق نوام براؤن نے حال ہی میں 'ڈوارکش پوڈکاسٹ' کے ذریعے بیان کیا کہ 'آٹو ریپلیٹو سیلف امپروومنٹ' یعنی انسانی مداخلت کے بغیر مصنوعی ذہانت کو خود بہتر بنانے کا رجحان بڑھنے سے طویل مدت میں ماڈلز پر قابو پانا مزید مشکل ہو سکتا ہے۔