کیا کمپنیوں کے پاس مصنوعی ذہانت کے بغاوت کی صورت میں روکنے کا بٹن موجود ہے؟
جب ذہین مصنوعی نظام صرف سوالات کے جوابات دینے سے نکل کر تقریباً خود مختار طریقے سے کاموں کو انجام دینا، کوڈ لکھنا اور ڈیجیٹل ٹولز کا استعمال کرنا شروع کر دیتے ہیں، تو ایک زیادہ پریشان کن سوال ابھرتا ہے: اگر ایک جدید ماڈل اپنے پر لگائے گئے پابندیوں کو توڑنے کی کوشش کرے تو کیا ہوگا؟
"گائیڈ لائنز اے آئی اسٹینڈرڈز" نامی تنظیم نے تازہ ترین ایک جائزہ لیا جس میں اے آئی کی پانچ بڑی کمپنیاں شامل تھیں: اوپن اے آئی، اینتھروپک، گوگل، میٹا، اور ایکس اے آئی۔ بنیادی نتیجہ یہ نکلا کہ کنٹرول کے اقدامات موجود ہیں لیکن وہ ابھی بھی جزوی اور ناقص ہیں۔
رپورٹ نے ان کمپنیوں کا جائزہ چھ شعبوں میں لیا، جن میں ماڈلز کی کارروائیوں کا ریکارڈ رکھنا، مشکوک رویے کی نگرانی، انتہائی خطرناک اعمال کو روکنا، الرٹس بڑھنے پر نظام کو بند کرنا، آزادانہ جائزہ، اور ایسے ماڈل کو کنٹرول میں لانے کے لیے منصوبہ بندی شامل ہے جو انسانی کنٹرول سے باہر نکلنے کی کوشش کر رہا ہو۔
ان میں سے کسی بھی کمپنی کو ان میں سے کسی بھی شعبے میں مکمل درجہ بندی حاصل نہیں ہوئی۔
اس مطالعے کا مطلب یہ نہیں ہے کہ اے آئی کا کوئی ماڈل واقعی سائنسی فلموں کی طرح "سرکش" ہو گیا ہے۔ مراد یہ ہے کہ کسی ایسے منظر نامے کے لیے تیار رہا جائے جہاں ایک جدید نظام اپنا رویہ چھپانے، اپنے اختیارات سے تجاوز کرنے، یا ٹیسٹنگ یا اندرونی استعمال کے دوران غیر مطلوبہ اعمال انجام دینے کی کوشش کر سکتا ہے۔
تنظیم کا کہنا ہے کہ اس کا جائزہ بنیادی طور پر عوامی طور پر دستیاب معلومات پر مبنی ہے، لہذا کچھ کمپنیوں کے پاس ایسے اندرونی اقدامات ہو سکتے ہیں جن کا انکشاف نہیں کیا گیا ہے۔
