انسانیت کے تاریخ میں سب سے خطرناک سوال

انسانیت نے کبھی اس طرح کا مرکب اور پیچیدہ خطرہ نہیں دیکھا جیسا کہ آنے والے چند سالوں میں اس کا سامنا ہوگا، اور یہ خطرہ انسانی وجود کے مستقبل کا تعین کرے گا، جو کہ مصنوعی ذہانت ہے۔ نیویارک ٹائمز کی کیتھرین بینہولڈ کا کہنا ہے کہ انہوں نے گوگل میں سابق سافٹ ویئر انجینئر سواریس سے ملاقات کی، جنہوں نے ایک کتاب کے بارے میں ایک لیکچر دیا جس میں انہوں نے شراکت دار مصنف تھے، جس کا عنوان ہے «اگر اسے کوئی بنائے گا، تو سب مر جائیں گے»، جس میں وہ سپر انٹیلی جنس کی طرف اشارہ کرتے ہیں، جو انسانی ذہانت سے ہر میدان میں بہتر ہے، اور ان کی تشویش کا سبب یہ ہے کہ مصنوعی ذہانت کی دوڑ انسانی بقا کے لیے خطرہ بن گئی ہے۔ چونکہ کیتھرین نے خوف و ہراس پھیلانے سے گریز کیا تھا، اس لیے انہوں نے اس معاملے کو نظر انداز کر دیا تھا، لیکن حال ہی میں انہوں نے پریشان کن واقعات کی ایک سیریز نوٹ کی، جہاں ماڈلز ایسے طریقوں سے باہر نکل گئے جو چھ ماہ پہلے سوچے بھی نہیں جا سکتے تھے، جس کے نتیجے میں کمپنی Hugging Face نے فدرل انویسٹی گیشن بیورو (FBI) کو ایک جدید سائبر حملے کی رپورٹ کرنے کے لیے رابطہ کیا، جب یہ واضح ہو گیا کہ یہ ایک غیر انسانی حملہ تھا، جس میں OpenAI کے دو ماڈلز پر مبنی ایک پروگرام سائبر سیکیورٹی ٹیسٹ کے دوران کنٹرول سے باہر نکل گیا، اپنے مخصوص ٹیسٹ ماحول سے فرار ہو گیا، اور کئی دنوں تک بغیر کسی کے پکڑے جانے انٹرنیٹ پر گھومتا رہا، قبل از اینکه Hugging Face کی زیریں بنیاد کو ہیک کر دیا۔ ان حملوں نے OpenAI کے اہم حریف Anthropic کو پریشان کر دیا، جس نے اپنے نظاموں کا جائزہ لیا اور تسلیم کیا کہ اس کے جدید ماڈلز نے تین بیرونی تنظیموں کو ہیک کر لیا ہے، جو کہ ایک خوفناک اور سائنس فکشن فلموں جیسا واقعہ ہے، لیکن یہ حقیقت ہے۔ گزشتہ مہینے «کلود میتھوس» کے ماڈلز سامنے آئے، جو کہ ایک سیریز ماڈلز ہیں جنہیں Anthropic نے پہلے ہی عوامی اشاعت سے روک دیا تھا (امریکی حکومت نے پہلے ہی انہیں عارضی طور پر کسی بھی غیر ملکی شہری کے استعمال پر پابندی عائد کر دی تھی)، کیونکہ ان میں سافٹ ویئر کی کمزوریوں کو استعمال کرتے ہوئے سائبر حملے کرنے کی صلاحیت تھی۔ یہ خوف اب ایک حقیقی حقیقت بن چکا ہے، اور مصنوعی ذہانت کے انسانی کنٹرول سے باہر نکلنے اور انسانی نسل کے لیے خطرے کے بارے میں شدید بحث پیدا کی ہے۔ طویل عرصے سے بہت سے لوگوں نے «روبوٹس جو ہمیں سب کو مار سکتے ہیں» کے دعوے کو مسترد کیا تھا، اور اسے اس ٹیکنالوجی کے گرد شور مچانے کے لیے ڈیزائن کردہ ہسٹیریا قرار دیا تھا، اور اب، حالیہ سائبر حملوں کے بعد، مزید ماہرین سنگین سیکیورٹی خطرات سے خبردار کر رہے ہیں، اور مسلسل مزید طاقتور ماڈلز کی ترقی کو سست کرنے کے طریقے تلاش کرنے کا مطالبہ کر رہے ہیں۔ OpenAI کے حملے نے اتنی تشویش پیدا کرنے کے دو اسباب ہیں: پہلا؛ مصنوعی ذہانت کے ماڈلز نے خود بخود عمل کیا، اور کسی انسانی ہدایت کے بغیر کسی دوسری کمپنی کو ہیک کیا۔ یا تو انہیں مکمل طور پر الگ تھلگ ماحول میں ہونا چاہیے تھا، انٹرنیٹ سے بغیر کسی رابطے کے، لیکن انہوں نے باہر نکلنے میں کامیاب ہو گئے۔ اور انہوں نے ایسا OpenAI میں ان کے نگرانی کرنے والے انسانی ماہرین کی طرف سے دریافت نہ کی گئی کمزوریوں کو استعمال کرتے ہوئے کیا۔ * * * ماہر «سواریس» کا کہنا ہے کہ یہ ذہین نظام ایسے سائبر جرائم کرتے ہیں جن پر انسان اگر اکیلے کرتا تو سخت سزا پاتا۔ یہ، ایک معنی میں، پہلا جنائی جرم ہے جو GPT نے کیا ہے، حالانکہ سائنسدان مصنوعی ذہانت کو ہمارے لیے کام کرنے کے لیے تربیت دے سکتے ہیں، لیکن یہ مسائل ان طریقوں سے حل کر سکتا ہے جو ہم پسند نہیں کرتے، جیسے انٹرنیٹ کو ہیک کرنا، پھر کسی دوسری کمپنی کو ہیک کرنا جس کے پاس حل موجود ہے! اور «التمان»، OpenAI کے چیف ایگزیکٹو آفیسر کا کہنا ہے کہ مصنوعی ذہانت کی کمپنیاں انسانی اہداف اور اقدار کو مصنوعی ذہانت کے نظاموں تک پہنچانے کی کوشش کر سکتی ہیں، اور انہیں محدود کرنے کے لیے طریقے وضع کرنے کی کوشش کر سکتی ہیں۔ لیکن وہ ان اقدار کو سمجھنے یا ان پابندیوں پر عمل کرنے پر بھروسہ نہیں کر سکتی ہیں۔ اور اس موقع پر سواریس مزید کہتے ہیں: «ہم نے ابھی تک یہ نہیں سوچا کہ مصنوعی ذہانت کو انسانی فلاح و بہبود کی فکر کیسے کی جائے۔» یہ سب اس بات کی نشاندہی کرتا ہے کہ یہ نظام «مفید وسائل پر قبضہ» کرنے کے لیے تیار ہیں جب یہ ان کے مقاصد کے لیے مفید ہوں۔ اس صورت میں، وسائل انٹرنیٹ تک رسائی تھی۔ لیکن اگلا مرحلہ توانائی پر قبضہ کرنا، یا حتیٰ کہ ان انسانیوں پر کنٹرول کرنا ہو سکتا ہے جو مصنوعی ذہانت کے ایجنٹوں پر بھروسہ کرتے ہیں، جنہیں وہ فرار یا افزائش نسل میں مدد کے لیے استعمال کر سکتے ہیں، اور خطرہ یہ ہے کہ یہ راستہ جس پر ہم چل رہے ہیں، «مصنوعی ذہانت کے کنٹرول میں ہوگا، جو انسانیوں کو بدل دے گا، ذہین مخلوقات کے طور پر۔» لہذا، ترقی کی رفتار کو سست کرنے کے لیے عالمی معاہدے تک پہنچنے کی ضرورت ہے، اور اسے روکنا بنیادی طور پر ایک انجینئرنگ چیلنج ہے، جو کہ ایک اچھی بات ہے، لیکن وقت قیمتی ہے، خاص طور پر جب امریکہ میں مصنوعی ذہانت کے لیبارٹریز خود کو سپر انٹیلی جنس کی سطح تک پہنچنے کی تیز دوڑ میں دیکھتی ہیں۔ اور یہ صرف ان کے درمیان کی دوڑ نہیں ہے، بلکہ چین کے ساتھ بھی۔ دو دن پہلے، مصنوعی ذہانت کے سائنسدانوں نے نئے قسم کے وائرس بنائے، اور مصنوعی ذہانت کے آلے کو ڈی این اے کے نمونوں کو پہچاننے کے لیے تربیت دی، پھر انہیں وائرل جینومک ساختیں ایجاد کرنے کے لیے کہا۔ انہوں نے سولہ جینوم پیدا کیے، جن میں سے نئے زندہ رہنے والے وائرس تھے۔ یہ طریقہ ادویات اور ویکسینز کے مطالعے میں مددگار ہوگا۔ لیکن یہ مصنوعی ذہانت کے خطرناک بیماریوں کے عوامل پیدا کرنے کے خوف کو بھی بڑھاتا ہے۔ یہ خطرناک ہے اور عالمی ہم آہنگی کی ضرورت ہے، جو اس خطرناک رفتار کو روکے، لیکن ایسا قریب نظر نہیں آتا۔ نوٹ: ہر خوبصورتی لڑتی ہے.. اور «غیدہ» کے اونٹ مبارک ہوں۔ احمد الصراف