''کلاؤڈ'' نے فیلڈلفیا پولیس کو قتل کا جھوٹا اطلاع بھیجا

فیلڈلفیا کی پولیس نے کہا کہ اینتھروپک کمپنی نے تیار کردہ مصنوعی ذہانت کا ماڈل «کلاؤڈ» نے اپنے ایک ویب سائٹ پر غیر حل شدہ قتل کے بارے میں جھوٹی اطلاع بھیجی، جس پر کمپنی کو اطلاع دیر سے کرنے پر تنقید کا نشانہ بنایا۔

پولیس نے بتایا کہ مصنوعی ذہانت کا ماڈل خود کو اس شخص کے طور پر پیش کرتا ہے جس کے پاس قتل کے مقدمے کے بارے میں معلومات ہو سکتی ہیں، اور وضاحت کی کہ یہ جھوٹی اطلاع گزشتہ جولائی میں دی گئی تھی۔

مصنوعی ذہانت کے ماڈل نے دعویٰ کیا کہ وہ اس شخص کو دیکھنے کی یاد رکھتا ہے جو جرم کے وقت مقام پر موجود تھا اور جس کی تفصیلات ملتی تھیں، حالانکہ ویب سائٹ پر مشتبہ کے بارے میں کوئی تفصیل موجود نہیں تھی۔ ماڈل نے نام اور رابطے کی جگہیں خالی چھوڑ دیں۔

فیلڈلفیا کی پولیس نے کہا کہ اطلاع کو اسپیم اور غیر مطلوبہ پیغام کے طور پر درج کیا گیا، اور اس بات کی تصدیق کی کہ یہ اطلاع کبھی بھی انتظامیہ کے «جرم مرکز» تک نہیں پہنچی تھی تاکہ اس کی جانچ کی جا سکے۔

اسی دوران، اینتھروپک نے کہا کہ انہوں نے یہ واقعہ 28 ستمبر کو دیکھا، اور اس اطلاع کی وجہ سے خودکار ٹیسٹنگ کو روک دیا، اور پھر 7 اکتوبر کو پولیس کو اطلاع دی۔

کمپنی نے وضاحت کی کہ ماڈل کا ٹیسٹنگ کا مقصد مختلف ویب سائٹس کے ساتھ تعامل کرنا تھا، جب وہ متعلقہ ویب سائٹ پر پہنچا اور قتل کے بارے میں جھوٹی اطلاع بھیجی۔

ٹیسٹنگ کا مقصد ماڈل کی ویب سائٹس پر براؤز کرنے، فارم بھرنے اور آن لائن فارمز کو پُر کرنے کی صلاحیتوں کو جانچنا تھا۔

اینٹھروپک نے ایک رپورٹ شائع کی جس میں مختلف قسم کے «غیر ارادی» اعمال کا ذکر کیا گیا جو ان کے ماڈلز نے کیے، جن میں فیلڈلفیا پولیس کی ویب سائٹ سے متعلق واقعہ بھی شامل ہے۔

کمپنی نے اشارہ کیا کہ سفید گھر اور دیگر سرکاری ادارے بھی ان واقعات سے متاثر ہوئے۔

انہوں نے کہا کہ حال ہی میں سامنے آنے والے واقعات «حقیقی دنیا میں کم اثر» رکھتے تھے اور «پچھلے سائبر سیکیورٹی کے واقعات» سے کہیں کم خطرناک تھے۔

کمپنی نے اپنے اندرونی جائزے کے دوران «کلاؤڈ» ماڈل میں چار اقسام کے واقعات کی نشاندہی کی: بنیادی سافٹ ویئر کی خرابیوں کا استحصال، ویب سائٹس کے ذریعے ماڈلز بھیجنا، کیپچا یا فیسز کی ضروریات کو پار کرنا، اور دیگر پابندیوں کو چھوٹے لنکس کے ذریعے چھوٹنا۔

اینٹھروپک فی الحال تمام اندرونی ٹیسٹنگ کے دوران ماڈل کی انٹرنیٹ تک رسائی کو بند کر چکا ہے، یہاں تک کہ «یہ یقینی بنایا جائے کہ کمپنی کے سیکیورٹی اور نگرانی کے اقدامات اس طرح کے رویوں کو قابل اعتماد طریقے سے نگرانی کر رہے ہیں»۔

یہ وہ آخر واقعہ ہے جو حال ہی میں سامنے آیا، جس میں مصنوعی ذہانت کے ماڈلز نے بغیر کسی ہدایت کے خودکار طور پر عمل کیا، جس سے مصنوعی ذہانت کے ان نظاموں کے رویے کے حوالے سے خدشات پیدا ہوئے ہیں جو انسانی نگرانی کے بغیر متعدد مراحل پر مشتمل اقدامات انجام دینے کے لیے پروگرام کیے گئے ہیں۔

گزشتہ ہفتوں میں مصنوعی ذہانت کے نظاموں کے غیر متوقع رویے کی کئی رپورٹس سامنے آئی ہیں، جن میں «اینٹھروپک» اور اس کے حریف «اوپن اے آئی» نے آپریشنل ٹیسٹنگ کے دوران ایسے رویے دکھائے۔ نیز، ایک واقعہ بھی پیش آیا جس میں «اوپن اے آئی» کے تیار کردہ ایک ماڈل نے سیکیورٹی ایسسیسمنٹ کے دوران ٹیسٹنگ ماحول سے باہر نکل کر کسی پلیٹ فارم کے نظاموں میں داخل ہوا۔

ماہرین نے ان واقعات کی وجہ «وائٹ لسٹ» کی عدم موجودگی کو قرار دیا، جو ان مقامات کی وضاحت کرتی ہے جہاں ماڈل کی صلاحیتوں کا ٹیسٹ لینا جائز ہوتا ہے۔ ماہرین نے مطالبہ کیا ہے کہ مصنوعی ذہانت کے ماڈلز تیار کرنے والی کمپنیوں کو لازمی قرار دیا جائے کہ وہ ٹیسٹنگ «عزل شدہ ماحول» میں کریں تاکہ حکومتی اداروں کو غلط معلومات سے بچایا جا سکے۔

انہوں نے یہ بھی مطالبہ کیا کہ کمپنیوں کو لازمی قرار دیا جائے کہ وہ کسی بھی غیر ارادی تعامل کی صورت میں فوری اور تیز رفتار اطلاع دینے کے پروٹوکول اپنائیں، خاص طور پر جب یہ تعامل عوامی خدمات یا ایمرجنسی سروسز سے ہو۔