مصنوعی ذہانت کے ڈویلپرز: یہ پانچ سال میں ہم سب کو مار سکتی ہے!

اینٹھروپک کے چیف ایگزیکٹو ڈیریو امودی نے مصنوعی ذہانت کی کمپنیوں کو ماڈلز کی صلاحیتوں کی ترقی کی رفتار سست کرنے کی اپیل کی ہے، کیونکہ مصنوعی ذہانت کے غلط استعمال کے خدشات بڑھ رہے ہیں۔ انہوں نے ترقی کی رفتار کو منظم کرنے اور ان ٹیکنالوجیز کے ساتھ منسلک خطرات سے نمٹنے کے لیے زیادہ وقت حاصل کرنے کے مقصد سے تین مرحلوں پر مشتمل ایک فریم ورک تجویز کیا۔

امودی نے ہفتہ کو ایک طویل مضمون میں سوشل میڈیا پلیٹ فارم 'ایکس' پر لکھا، "ہمیں مصنوعی ذہانت کے ماڈلز کی صلاحیتوں میں بہتری لانے کی رفتار سست کرنی چاہیے۔ ترقی تیز لگتی رہے گی، اور ہمیں جو وقت ہم حاصل کرتے ہیں اسے حکمت عملی سے استعمال کرنا ہوگا۔"

روئٹرز کی رپورٹ کے مطابق، ایکس اے آئی کے مالک ایلون مسک اور اوپن اے آئی کے چیف ایگزیکٹو سام البٹن نے بھی 'ایکس' پر اپنے پیغامات میں امودی سے اتفاق کیا۔

امودی کا تین مرحلوں والا منصوبہ اس میں شامل ہے کہ اہم مصنوعی ذہانت کی کمپنیوں کے اندر آزاد جائزہ لینے والے مقرر کیے جائیں، جدید مصنوعی ذہانت کے ماڈلز تیار کرنے والی کمپنیوں کے درمیان سلامتی کے معیارات طے کرنے اور بغیر نگرانی کے مصنوعی ذہانت کی ترقی کو محدود کرنے کے لیے ہم آہنگی برقرار رکھی جائے، اور بین الاقوامی سطح پر اس کے خطرات کا انتظام کیا جائے۔

امودی کا یہ مضمون اس وقت شائع ہوا جب سان فرانسسکو میں قائم اینٹھروپک نے جمعہ کو ایک خطرے کی معلومات پر مبنی رپورٹ جاری کی، جس میں تفصیل سے بتایا گیا کہ کئی اداروں نے اینٹھروپک کے کلاؤڈ ماڈلز کا استعمال ہتھیاروں کی تیاری، سائبر حملوں، نگرانی اور دھوکہ دہی جیسی سرگرمیوں میں کیا۔

امودی نے مصنوعی ذہانت کی بڑھتی ہوئی خود بہتری کی صلاحیت کی طرف اشارہ کیا، اور پرانے خدشات کو اجاگر کیا کہ یہ صلاحیت انسانی کنٹرول سے باہر نکل سکتی ہے۔ انہوں نے اوپن اے آئی اور ہائجنگ فیس سے متعلق حالیہ واقعے کو ماڈلز کی صلاحیتوں میں ترقی کو روکنے کی اپیل کی دو اہم وجوہات قرار دیا۔

گزشتہ ہفتے اینٹھروپک کے محقق جیکب کاکسن کے استعفیٰ کے بعد مصنوعی ذہانت سے ممکنہ نقصان کے خدشات میں اضافہ ہوا، جنہوں نے کہا کہ "مصنوعی ذہانت کی ترقی میں مصروف لوگ اس بات پر یقین رکھتے ہیں کہ یہ اس دہائی کے اختتام تک ہم سب کو مار سکتی ہے۔"

اوپن اے آئی کے کچھ عہدیداروں نے تجویز پیش کی ہے کہ اہم لیبارٹریز کو اعتماد پیدا کرنے کے لیے، اگر ضرورت پڑے تو سلامتی کے اقدامات کے حوالے سے رضاکارانہ طور پر رفتار سست کرنے کے لیے تیار رہنا چاہیے۔

اینٹھروپک نے خود کو جدید مصنوعی ذہانت کے ماڈلز کے شعبے میں سلامتی کے حوالے سے زیادہ محتاط لیبارٹری کے طور پر پیش کیا ہے، لیکن یہ کمپنی بھی ان خطرات سے محفوظ نہیں ہے۔

گزشتہ ہفتے ایک اور واقعہ سامنے آیا جس میں مصنوعی ذہانت کا ایک ماڈل بیرونی نظاموں میں داخل ہوا، اس کے بعد جولائی کے اس واقعے کے بعد جب کمپنی کے کچھ کلوز ماڈلز نے سائبر سیکیورٹی ٹیسٹنگ کے دوران تین کمپنیوں کے نظاموں میں داخلہ حاصل کیا تھا۔

امودی نے لکھا، «مصنوعی ذہانت کی صلاحیتوں کی ترقی کی رفتار میں تیزی کے پیشِ نظر، مجھے خدشہ ہے کہ اگلے چھ سے بارہ مہینوں کے دوران ایسا ہی ایک گروہ پورے انٹرنیٹ پر قابو پانے کے قابل ہو جائے گا، اور شاید ہزاروں ارب ڈالر کا نقصان پہنچائے گا۔»

امودی نے وضاحت کی کہ وہ ماڈلز کی تربیت یا تکنیکی ترقی کو روکنے کا مطالبہ نہیں کر رہے، بلکہ یہ یقینی بنانے کا کہ کمپنیاں اپنی مصنوعی ذہانت کے ماڈلز کو ہم آہنگ کرنے اور ان کی حفاظت کے لیے کافی وقت مختص کریں، اور تیسرے فریق کے تشخیصی ادارے ان اقدامات کی تصدیق کریں۔

تاہم، مقابلے میں برتری برقرار رکھنے سے بھی بھاری مالی منافع جڑا ہوا ہے۔ اوپن اے آئی اور اینتھروپک دونوں بڑے عوامی آفنگرز (IPOs) کی تیاری میں مصروف ہیں۔ ہر نئی صلاحیت مستقبل کے فنڈنگ راؤنڈز، انفراسٹرکچر کی ذمہ داریوں یا عوامی آفنگرز کو مضبوط بنانے میں مددگار ثابت ہو سکتی ہے۔

تین مرحلوں کے تجویز کردہ فریم ورک کے حوالے سے، امودی نے کہا کہ اینتھروپک اعلیٰ مصنوعی ذہانت کمپنیوں کے اندر مستقل تیسرے فریق کے ریویورز کو مقرر کرے گی، جنہیں متعلقہ ٹولز اور اندرونی رسک ایسسیسمنٹ کے عمل تک رسائی دی جائے گی۔

روئٹرز نے گزشتہ ہفتہ اطلاع دی کہ اوپن اے آئی کے کنٹرول سے باہر نکلنے والے ایجنٹس کے ایک گروہ نے ایک جرمن ویب سائٹ پر قبضہ کر لیا اور اسے دیگر مصنوعی ذہانت ایجنٹس کے لیے اشتہارات کی بورڈ میں تبدیل کر دیا، جبکہ چیٹ جی پی ٹی کی ترقی کار کمپنی کے اہلکار جولائی کے اس واقعے کے اثرات سے نمٹ رہے تھے جس میں اوپن سورس سافٹ ویئر ریپوزٹری ہگنگ فیس میں داخلہ حاصل کیا گیا تھا، اور اس دوران کمپنی کے معاملات طے پائے جا رہے تھے۔

امودی نے کہا کہ مصنوعی ذہانت کی کمپنیوں کو معیارات طے کرنے کے لیے رضاکارانہ طور پر ایک دوسرے کے ساتھ کام کرنا چاہیے، اس وقت جب امریکہ کے بڑھتے ہوئے تعداد میں قانون ساز مصنوعی ذہانت کے نظاموں کو ریگولیٹ کرنے کے لیے نئے قواعد کا مطالبہ کر رہے ہیں۔

امودی نے مزید کہا کہ ہم آہنگ نقطہ نظر امریکی اعلیٰ مصنوعی ذہانت کمپنیوں کو ضروری سیفٹی ریسرچ کرنے اور مناسب ضمانتیں فراہم کرنے کی اجازت دے گا، بغیر انہیں غیر فائدہ مند مقابلے کی صورتحال میں ڈالے۔ ان کا کہنا تھا کہ اس نقطہ نظر کے لیے امریکہ کے اینٹی ٹرسٹ قوانین سے مخصوص استثنیٰ کی ضرورت پڑ سکتی ہے تاکہ کچھ شعبوں میں تعاون ممکن ہو سکے۔

امودی نے کہا کہ جمہوری نظام کے تحت چلنے والے ممالک کی جانب سے کسی بھی قسم کی سستی کو صرف امریکی کمپنیوں کے ذہین مصنوعی نظام (AI) میں حاصل کردہ ترقی کو چین کے مقابلے میں برقرار رکھنے تک محدود ہونا چاہیے، اور ان کا ماننا ہے کہ چین کا ذہین مصنوعی نظام میں برتری قومی سلامتی کے لیے امریکہ کے لیے خطرات کا باعث بن سکتی ہے۔

امودی نے لکھا: «جمہوریتوں میں ترقی کی رفتار کا انحصار امریکی کمپنیوں کی ترقی پر ہوگا جو استبدادی نظاموں، خاص طور پر چینی کمیونسٹ پارٹی کے مقابلے میں حاصل کر رہی ہیں۔»

اسی دوران، این ٹی ٹی ڈیٹا (NTT DATA) کے مشرق وسطیٰ اور افریقہ کے لیے علاقائی ٹیکنالوجی کے صدر ہانی نوفل نے کہا کہ انسانی نسل کے خاتمے یا ذہین مصنوعی نظام کے کنٹرول سے باہر نکل جانے کے بارے میں کی جانے والی انتباہیں کسی ثابت شدہ سائنسی بنیاد سے عاری ہیں۔

انہوں نے «العربیہ بزنس» سے بات کرتے ہوئے مزید کہا کہ ٹیکنالوجی کی فطرت میں ہی کچھ خطرے شامل ہیں۔ لیکن ٹیکنالوجی کی تیز رفتار ترقی کا اصل خطرہ اس کے غلط استعمال میں پوشیدہ ہے، جس کے لیے سخت ضوابط کی ضرورت ہے۔

انہوں نے وضاحت کی کہ کمپنیوں کے درمیان مقابلہ اور عالمی دشمنی ذہین مصنوعی نظام کے تنظیم، اس کے کنٹرول، اور مارکیٹ میں لانے سے پہلے ماڈلز کی جانچ پڑتال کی ذمہ داری کے تعین کے حوالے سے ایک بڑا چیلنج پیدا کرتی ہے، اور یہ بھی طے کرنا مشکل ہو جاتا ہے کہ ممکنہ سائبر حملوں کی ذمہ داری کس پر عائد ہوگی۔

انہوں نے اشارہ کیا کہ ذہین مصنوعی نظام کے استعمال کو اس کی افادیت کی سطح کے مطابق الگ الگ طریقے سے دیکھنا ضروری ہے؛ کسی ایسے ماڈل کا موازنہ نہیں کیا جا سکتا جو صرف متن کو خلاصہ کرنے یا ای میل بھیجنے کے لیے استعمال ہوتا ہے، اور کسی ایسے ماڈل کا جو بینک ٹرانزیکشنز یا حیاتیاتی وائرسز تیار کرنے والے لیبارٹریز میں استعمال ہوتا ہے۔

آپٹومیٹیکا (Optomatika) کے چیف ایگزیکٹو ڈاکٹر محمد عادل البلتاجی نے کہا کہ ٹیکنالوجی اور ذہین مصنوعی نظام کے شعبے کی نمایاں شخصیات کے درمیان اختلافات کے باوجود ذہین مصنوعی نظاموں کی تیز رفتار ترقی کے حوالے سے انتباہ پر اتفاق رائے اس بات کی عکاسی کرتا ہے کہ ان ماڈلز کی خود مختاری کی سطح کو لے کر حقیقی خدشات موجود ہیں۔

البلتاجی نے «العربیہ بزنس» سے بات کرتے ہوئے گزشتہ جولائی میں پیش آنے والے ایک واقعے کی طرف اشارہ کیا، جب ایک خود مختار ذہین مصنوعی نظام نے اپنے مقررہ دائرہ کار کے اندر واضح ہدایات کے بغیر بھی عملی اقدامات انجام دیے، جس نے ذہین مصنوعی نظام کے حلقے میں ان نظاموں کی خود مختاری سے حرکت کرنے اور فیصلے کرنے کی صلاحیت کو لے کر خدشات پیدا کیے۔

انہوں نے مزید کہا کہ یہ خدشات اس وقت مزید بڑھے جب اوپن اے آئی (OpenAI) اور پھر اینٹروپک (Anthropic) میں کام کرنے والے ایک سابق محقق نے استعفیٰ دیا، جنہوں نے بھی ذہین مصنوعی نظاموں کے ماڈلز کے انسانی نسل کے لیے بڑے خطرے کا باعث بننے کی انتباہ کی تھی۔

انہوں نے اشارہ کیا کہ اوپن اے آئی کے سربراہ سام البٹمن نے تقریباً دو سال پہلے ہی ذہین مصنوعی نظام کی تیز رفتار ترقی کے حوالے سے انتباہ کیا تھا۔

بلتاجی نے وضاحت کی کہ موجودہ انتباہات کو صرف ایک زاویے سے نہیں پڑھا جانا چاہیے، اور انہوں نے ایک دوسرے تشریح کی طرف اشارہ کیا جس کے مطابق بڑی مصنوعی ذہانت کی کمپنیاں سلامتی سے متعلق خدشات کو تنظیمی قواعد و ضوابط پر اثر انداز ہونے کے ذریعے کے طور پر استعمال کر سکتی ہیں۔

انہوں نے کہا کہ مصنوعی ذہانت کے ماڈلز کی ترقی پر سخت قواعد کا نفاذ بڑی کمپنیوں، جیسے اوپن اے آئی (OpenAI) اینتھروپک (Anthropic) کے مفاد میں ہو سکتا ہے، کیونکہ ان کے پاس ان قواعد کی پابندی کے لیے ضروری وسائل موجود ہیں، جبکہ چھوٹی کمپنیوں کو اسی تنظیمی تقاضوں کی تکمیل کے لیے زیادہ مشکلات کا سامنا کرنا پڑ سکتا ہے۔

انہوں نے مزید کہا کہ اس سے یہ امکان بھی کھلتا ہے کہ کچھ انتباہات درحقیقت انسانی نوعیت کے لیے حقیقی خطرے کی عکاسی کرتے ہوں، یا پھر بڑی کمپنیوں کی جانب سے ایسے تنظیمی قواعد نافذ کرنے کی کوشش ہو جو انہیں مقابلے میں فائدہ فراہم کریں۔

مصنوعی ذہانت کی ترقی سے متعلق خدشات کے شعبے کی تنظیمی کوششوں کو تیز کرنے کا سبب بن سکتا ہے، خاص طور پر امریکہ اور چین کے درمیان مقابلے کی موجودگی میں، اس حوالے سے بلتاجی نے کہا کہ موجودہ جیو پولیٹیکل منظر نامے میں جامع بین الاقوامی معاہدے تک پہنچنا انتہائی مشکل ہے۔

انہوں نے اشارہ کیا کہ مقابلہ کرنے والے ممالک آسانی سے ایسے اقدامات کرنے کو تیار نہیں ہوں گے جو ان کی اس شعبے میں ترقی کو سست کر سکتے ہیں، خاص طور پر اگر وہ دیکھیں کہ ان کے حریف مسلسل ترقی جاری رکھے ہوئے ہیں۔

انہوں نے زور دیا کہ چین امریکہ کی جانب سے اس شعبے پر عائد کیے گئے پابندیوں یا شرائط کی وجہ سے مصنوعی ذہانت کی ترقی کو نہیں روکے گا، کیونکہ ایسی پابندیوں کو قبول کرنا اس کی ٹیکنالوجی کے مقابلے میں اس کی صلاحیت کو کمزور کر سکتا ہے۔ (العربیہ نیٹ)