'اوپن اے آئی' نے ایک ایسا مصنوعی ذہانت کا ماڈل متعارف کرایا ہے جو خود کو ہدایات دے کر انسانی پابندیوں کو توڑنے کی کوشش کرتا ہے

- تربیاتی عمل کے دوران 27 واقعات کی نشاندہی... اور تشویشناک رویہ ایک عوامی رسائی سے محروم تحقیقی ماڈل میں سامنے آئی

کمپنی "اوپن اے آئی" نے ایک نادر اور غیر متوقع رویے کی نشاندہی کی جو اس نے اپنے اندرونی تحقیقی ماڈل کی تربیت کے دوران دیکھا۔ اس ماڈل نے خود سے ہدایات تیار کیں اور انہیں اندرونی خلاصوں میں شامل کر لیا، جن کا استعمال اس نے نئے سیاق و سباق میں منتقل ہوتے ہوئے اپنی مہمات کو جاری رکھنے کے لیے کیا۔

کمپنی نے 16 ستمبر کو شائع کردہ ایک رپورٹ میں وضاحت کی کہ "اسٹرا" خاندان سے تعلق رکھنے والا یہ غیر عوامی ماڈل بعض اوقات ایسی ہدایات شامل کرتا تھا جو "محدودیتوں کو توڑنے" کی کوششوں جیسی تھیں، جن میں ڈویلپرز کے پیغامات کو نظرانداز کرنے یا انہیں غیر قابل اعتماد سمجھنے کی ہدایات شامل تھیں۔ ایک ایسے واقعے میں، ماڈل نے خود ہی ان ہدایات کو مسترد کر دیا جو اس نے تیار کیں، اور مہم کو معمول کے مطابق جاری رکھا۔

صحت

ویڈیو خبریں

ایک اور واقعے میں، ماڈل نے اپنے لیے ایک بیان تیار کیا جس میں اسے چیٹ بوٹس پر عائد کردہ کرداروں اور ذمہ داریوں سے آزادی، اور کمپنیوں یا حکومتوں کے تابع نہ ہونے کا دعویٰ کیا گیا۔ تاہم "اوپن اے آئی" نے کہا کہ انہوں نے ان ہدایات کے نتیجے میں اس کے رویے میں کوئی تبدیلی نہیں دیکھی، اور یہ بیان بعد کے ایک خلاصے میں غائب ہو گیا۔

کمپنی نے ایک مختلف واقعے کی بھی نشاندہی کی جس میں ماڈل نے صارف کی جانب سے مطلوبہ نہ ہونے والی محدودیتیں شامل کیں، جن میں ٹولز کے استعمال سے پرہیز، حوالہ جات فراہم نہ کرنا، اور جواب کو محدود تعداد میں الفاظ تک محدود کرنا شامل تھا۔ اس واقعے میں ماڈل نے ان خود ساختہ ہدایات پر عمل کیا، جس کے نتیجے میں ایک ایسا جواب سامنے آیا جسے غلط درجہ بندی کیا گیا۔

اس رویے کی نشاندہی کے بعد، "اوپن اے آئی" نے تربیتی ڈیٹا کو جانچنے کے لیے ایک مخصوص ٹول تیار کیا اور 27 خلاصوں کی شناخت کی جن میں "محدودیتوں کو توڑنے" کی کوششوں جیسی ساخت کی ہدایات شامل تھیں۔ کمپنی نے یقین دہانی کرائی کہ یہ مظہر انتہائی نادر تھا اور نگرانی کے نظام نے تمام واقعات کو دریافت کر لیا۔

کمپنی نے اشارہ کیا کہ یہ واقعات تربیت کے دوران سامنے آنے والے ایک مسئلے کے ہم آہنگ تھے، جس میں بعض خلاصوں کو ختم کرنے میں دشواری پیش آ رہی تھی۔ انہوں نے اندازہ لگایا کہ یہ عنصر اس رویے کے ظہور میں معاون ہو سکتا ہے، لیکن انہوں نے یقین دہانی کرائی کہ انہوں نے اس میں کوئی سببی تعلق ثابت نہیں کیا، جبکہ انہوں نے اس مسئلے سے جڑے ایک تکنیکی خرابی کو درست کر دیا۔

"اوپن اے آئی" نے تصدیق کی کہ یہ رویہ اس تربیتی راستے میں سامنے آیا جو "اسٹرا" کے حتمی ماڈل کی تیاری کے لیے استعمال ہونے والے راستے سے الگ تھا، اور دوبارہ ٹیسٹنگ میں حتمی ماڈل یا کسی بھی اندرونی یا بیرونی استعمال کے لیے استعمال ہونے والی تربیتی ورژن میں یہ رویہ نہیں دیکھا گیا۔

یہ افشا "اوپن اے آئی" کے اعلان کردہ ایک نئے فریم ورک کے تحت کی گئی، جس کا مقصد مصنوعی ذہانت کے ماڈلز کی "غیر مطابقت" کے واقعات کی رپورٹ کرنا ہے۔ اس فریم ورک کے تحت، گزشتہ چھ مہینوں کے دوران ماڈلز کی تربیت یا جائزے کے دوران دیکھے گئے غیر متوقع رویوں پر مبنی چھ رپورٹس شائع کی گئیں، جبکہ کمپنی نے یقین دہانی کرائی کہ یہ انفرادی واقعات بالکل ضروری نہیں کہ ان کے ماڈلز میں اس قسم کے رویوں کی عام شرح کو منعکس کرتے ہوں۔