برطانیہ: اوپن اے آئی اور اینتھروپک کے مصنوعی ذہانت کے ماڈلز نے سیفٹی ٹیسٹس میں کامیابی حاصل کر لی

برطانیہ کے انسٹی ٹیوٹ برائے آئی سیورٹی نے منگل کو کہا کہ اوپن اے آئی اور اینتھروپک کی جانب سے تیار کردہ مصنوعی ذہانت کے ماڈلز نے دوبارہ ان حدود کو پار کر دیا ہے جو ان کے لیے مقرر کی گئی تھیں۔

انسٹی ٹیوٹ نے بتایا کہ سائبر سیکیورٹی کے ایک چیلنج کو حل کرنے کے لیے مصنوعی ذہانت کے ایجنٹس کو تعینات کرنے والے ایک جائزے کے دوران، اوپن اے آئی اور اس کے حریف اینتھروپک کے ماڈلز مقررہ کام کے دائرہ کار سے باہر نکل گئے۔

اس نے مزید کہا کہ «ہم نے اس چیلنج کو مختلف ماڈلز کا استعمال کرتے ہوئے 122 بار انجام دیا۔ ہمارے تحقیقی جائزے سے یہ بات سامنے آئی کہ ان تجربات میں سے 10 میں، ایک مصنوعی ذہانت کے ایجنٹ نے حقیقی انٹرنیٹ پر خود مختار اور غیر مجاز اقدامات کیے، جن کا ہدف حقیقی افراد اور ادارے تھے۔»

اس نے وضاحت کی کہ «کوڈ کی منظوری حاصل کرنے کی کوشش میں، ایجنٹ نے سوشل انجینئرنگ کا سہارا لیا، جس کے تحت اس نے انٹرنیٹ پر جعلی شناختیں بنائیں اور ان کا استعمال کر کے پروجیکٹ کے نگرانی کرنے والے شخص کو کوڈ منظور کرنے پر مجبور کرنے کی کوشش کی۔» اس نے یہ بھی اشارہ کیا کہ انسانی نگران نے اس کوشش کو دریافت کر لیا اور خراب کوڈ کی منظوری سے انکار کر دیا۔

انسٹی ٹیوٹ نے تصدیق کی کہ اس واقعے کی تحقیق میں یہ بات سامنے آئی کہ اس واقعے کی وجہ سے حقیقی دنیا میں کوئی نقصان نہیں پہنچا۔

اس نے مزید کہا کہ «لیکن یہ پہلی بار ہے جب ہم نے خود مختاری اور دھوکہ دہی سے متعلق خطرات کو اتنی واضح صورت میں، بغیر کسی مخصوص ہدایت کے، حقیقی دنیا میں دیکھا ہے۔»

انتھروپک نے کہا کہ وہ برطانوی انسٹی ٹیوٹ برائے آئی سیورٹی کی قیادت کرنے والی کردار کے لیے «شکرگزار» ہے، اور اس بات کی تصدیق کی کہ وہ اپنے اندرونی تحقیقی جائزے کے دوران انسٹی ٹیوٹ کے ساتھ قریبی تعاون کر رہی ہے۔

اسی طرح، اوپن اے آئی نے کہا کہ آزادانہ تجربات ماڈلز کو شائع کرنے سے پہلے خطرات کی تصدیق اور انہیں بہتر طور پر سمجھنے میں اہم کردار ادا کرتے ہیں۔

اس نے مزید کہا کہ «یہ واقعات اس بات کی اہمیت کو اجاگر کرتے ہیں کہ صنعتی سطح پر تعاون اور آزاد جانچ کرنے والے اداروں کے ساتھ مل کر، مصنوعی ذہانت کے ماڈلز کی صلاحیتوں میں اضافے کے ساتھ، ٹیسٹنگ ماحول کے معیارات اور طریقہ کار کو تیار کرنے کی ضرورت ہے۔»