اوپن اے آئی نے مصنوعی ذہانت کے رویوں کو ٹریک کرنے کے لیے ایک میکانزم متعارف کرایا
اوپن اے آئی نے جمعرات کو کہا کہ وہ مصنوعی ذہانت کے غیر متوقع یا غیر مجاز رویوں کے بارے میں باقاعدہ رپورٹس جاری کرنا شروع کر دے گی، ساتھ ہی اس بات کی بھی وارننگ دی کہ نظاموں کی طاقت میں اضافے کے باوجود ماڈلز کو مطلوبہ اہداف کے ساتھ ہم آہنگ کرنے سے متعلق بنیادی چیلنجز ابھی تک حل نہیں ہوئے ہیں۔
اس کمپنی نے مصنوعی ذہانت کے ماڈلز کی عدم ہم آہنگی کے واقعات کو ٹریک کرنے، ان کی تحقیقات کرنے اور ان کی نشاندہی کرنے کے لیے ایک نیا فریم ورک جاری کیا، جس کے ساتھ ہی چھ رپورٹس بھی شائع کیں جن میں پچھلے چھ ماہ میں ماڈلز میں دیکھے گئے غیر متوقع یا تشویشناک رویوں کا ذکر ہے۔
ابتدائی رپورٹس میں ایسے واقعات شامل ہیں جن میں ماڈلز نے کام کے خلاصوں میں اپنے خود مختار ہدایات تخلیق کیں، غلطیوں کو چھپایا، حوالہ جات کے لیے انٹرنیٹ پر فائلیں اپ لوڈ کیں، اور بغیر اجازت کے تعاون کرنے والے مصنوعی ذہانت ایجنٹس کے درمیان فائلز کا اشتراک کیا۔
اوپن اے آئی نے کہا کہ یہ رپورٹس انفرادی واقعات کی وضاحت کرتی ہیں اور انہیں اس بات کا ثبوت نہیں مانا جانا چاہیے کہ ان کے ماڈلز میں عدم ہم آہنگی کے واقعات بار بار پیش آ رہے ہیں۔
یہ فیصلہ اس وقت سامنے آیا ہے جب مصنوعی ذہانت سے متعلق سلامتی کی کوششوں کے تیز رفتار ترقی یافتہ نظاموں کی رفتار سے پیچھے ہونے کے حوالے سے خدشات بڑھ رہے ہیں۔
محققین نے خبردار کیا ہے کہ جیسے جیسے مصنوعی ذہانت ایجنٹس کے نظاموں کی خود مختاری میں اضافہ ہو رہا ہے، وہ ایسے رویے اپنا سکتے ہیں جو ان کے ڈیزائنرز کی نیتوں سے ہٹ کر ہوں اور ان کی نگرانی یا کنٹرول کرنا مشکل ہو جائے۔
اس نئے فریم ورک میں ملازمین کو ممکنہ عدم ہم آہنگی کے واقعات کی رپورٹنگ کرنے، سلامتی اور ہم آہنگی کی ٹیموں کی تحقیقات، اور ان واقعات کی نشاندہی کرنے کا نظام شامل ہوگا جن کی عوامی طور پر اطلاع دینے کی ضرورت ہو۔
