اینٹروپک کے سربراہ مصنوعی ذہانت کے ترقی میں سستی کا مطالبہ کرتے ہیں، ایلٹمن اور مسک اس کی حمایت کرتے ہیں

- داریو امودی ماڈلز کی صلاحیتوں میں تیزی کی طرف اشارہ کرتے ہوئے خبردار کرتے ہیں اور خطرات کو کم کرنے کے لیے آزاد نگرانی اور بین الاقوامی معیارات کا مطالبہ کرتے ہیں

مصنوعی ذہانت کے مقابلے کے اندر ایک نمایاں تبدیلی کے طور پر، جدید ماڈلز کی ترقی کی رفتار سے متعلق انتباہات اب صرف آزاد محققین اور ماہرین تک محدود نہیں رہیں۔ "اینٹروپک" کمپنی کے چیف ایگزیکٹو داریو امودی نے ترقی کی رفتار کو سست کرنے کی اپیل کی، اور ان کی اس اپیل کو جلد ہی "اوپن اے آئی" کے چیف ایگزیکٹو سام البٹن اور امریکی ارب پتی ایلون مسک نے سراہا۔

امودی نے خبردار کیا کہ موجودہ ترقی کی رفتار کمپنیوں اور حکومتوں کی صلاحیت سے آگے نکل سکتی ہے، جو زیادہ جدید نظاموں سے متوقع خطرات کا سامنا کرنے کے لیے ناکافی ہو سکتی ہے۔ انہوں نے مصنوعی ذہانت کی کمپنیوں سے اپیل کی کہ وہ اپنے ماڈلز کی صلاحیتوں کو بہتر بنانے کی رفتار کو کم کریں۔

خبریں

روزانہ اخبارات کے لیے سبسکرائب کریں

موسمی سفر کی منصوبہ بندی کریں

انہوں نے "ایکس" (ایکس) پلیٹ فارم پر ایک پوسٹ میں کہا کہ اگرچہ وہ ترقی کی رفتار کو سست کریں گے، لیکن ترقی تیز ہی رہے گی۔ ان کا ماننا ہے کہ اس سے حاصل ہونے والا اضافی وقت زیادہ مؤثر حفاظتی طریقوں کی ترقی اور مستقبل کے نظاموں سے منسلک خطرات کے لیے تیاری میں لگایا جا سکتا ہے۔

امودی نے مصنوعی ذہانت کی ترقی میں تیزی کا سامنا کرنے کے لیے تین قدمی فریم ورک پیش کیا، جس کا آغاز اس بات سے ہوتا ہے کہ کمپنیوں کو لازمی قرار دیا جائے کہ وہ آزاد بیرونی جائزہ لینے والوں کو اپنے نظاموں تک مستقل رسائی فراہم کریں، جو ملازمین کی رسائی کے قریب ہو۔ اس سے انہیں حفاظتی اقدامات کا معائنہ کرنے اور یہ جانچنے کی اجازت ملے گی کہ ماڈلز اور تربیتی ماحول حفاظتی معیارات کے مطابق ہیں یا نہیں۔

دوسرا قدم اس بات پر مبنی ہے کہ جمہوری ممالک میں کام کرنے والی مصنوعی ذہانت کی کمپنیاں باہمی ہم آہنگی اختیار کریں تاکہ مشترکہ حفاظتی معیارات اور صلاحیتوں کی ترقی کی رفتار کے حدود مقرر کی جا سکیں، تاکہ مقابلہ اس طرح نہ بن جائے کہ کمپنیاں حفاظتی اقدامات کی قیمت پر ترقی کو تیز کریں۔

تیسرا قدم حکومتوں سے متعلق ہے، جہاں امودی نے جمہوری ممالک سے اپیل کی کہ وہ جہاں تک ممکن ہو، جدید مصنوعی ذہانت کے نظاموں کے ساتھ نمٹنے کے لیے مشترکہ حدود اور پابندیاں مقرر کرنے کے لیے ہم آہنگی اختیار کریں۔

"اینٹروپک" کے صدر کا ماننا ہے کہ موجودہ رفتار پر ترقی کا تسلسل قریب ہی اس طرف لے جا سکتا ہے کہ زیادہ خود مختار مصنوعی ذہانت کے ایجنٹس ظاہر ہوں گے جو وسیع پیمانے پر کام انجام دے سکیں گے۔ وہ ممکنہ خطرات سے خبردار کرتے ہیں جن میں جدید نظاموں پر کنٹرول کھونے، سائبر حملوں، حیاتیاتی دہشت گردی، اثر و رسوخ کی کارروائیوں میں ان کا غلط استعمال، اور زیادہ تباہ کن تباہی کے ذرائع کی ترقی شامل ہیں۔

انہوں نے اشارہ کیا کہ کمپنیوں اور ماڈلز کی کثرت خود بخود حفاظت کی ضمانت نہیں ہے، کیونکہ مختلف نظاموں کے مشابہ تکنیکوں اور تربیتی طریقوں پر انحصار کرنے کا امکان ہے، جس سے ایک سے زیادہ نظاموں میں حفاظتی ذرائع میں یکساں کمزوریوں کا دہرایا جا سکتا ہے۔

امودی کی اپیل پر ردعمل بھی فوراً سامنے آیا۔ البٹن نے "ایکس" پر کہا، "میں داریو کی رائے سے متفق ہوں"، اور وضاحت کی کہ "اوپن اے آئی" اپنے نظاموں کی حفاظت کی تصدیق کے لیے آزاد نگرانوں کا استعمال کرے گی، جو امودی کے پیش کردہ عہد کے مشابه ہے۔

اسی طرح، مسک نے اپنا موقف مختصراً بیان کیا کہ "داریو درست کہہ رہے ہیں"، اور انہوں نے جدید مصنوعی ذہانت کی صلاحیتوں کی ترقی کی رفتار کو سست کرنے کی ضرورت کی حمایت کا اعلان کیا۔

یہ موقف میں ہم آہنگی "اوپن اے آئی" کے عوامی امور کے سربراہ کرس لاہن کی جانب سے چند دن پہلے کی اپیل کے بعد سامنے آئی، جس میں انہوں نے بین الاقوامی قواعد مقرر کرنے کی درخواست کی تھی کہ کب اور کیسے مصنوعی ذہانت کی ترقی کو سست یا روکا جانا چاہیے۔

امودی کی اپیل کا وقت "اینٹروپک" سے محقق جیکب کاکسن کے استعفیٰ کے ساتھ بھی ملا، جو پہلے "اوپن اے آئی" میں کام کر چکے ہیں۔ انہوں نے کمپنیوں کو خود کو بہتر بنانے والے نظاموں کی ترقی کے مقابلے میں شامل ہونے سے خبردار کیا تھا، اور اس کے نتیجے میں ان پر کنٹرول کرنے میں مزید دشواری کا اشارہ دیا تھا۔

کاکسن نے خبردار کیا کہ مصنوعی ذہانت اس دہائی کے دوران انسانی نسل کے لیے ایک سنگین خطرہ بن سکتا ہے، اور انہوں نے کمپنیوں کے درمیان اس "دوڑ" کی تنقید کی جس میں وہ حفاظتی اقدامات کی قیمت پر ایک دوسرے پر برتری حاصل کرنے کی کوشش کر رہے ہیں۔

اس کی ویڈیو کو ایک کروڑ سے زائد بار دیکھا گیا، جبکہ انٹھروپک کے ساتھی ایوان ہاپنگر نے بھی اسی نوعیت کے خدشات کا اظہار کیا، اور ان کا اندازہ تھا کہ آنے والے دہائی میں مصنوعی ذہانت کے وجودی خطرے کے پیش آنے کا امکان دس فیصد سے بھی زیادہ ہے۔ یہ قریب قریب یکساں موقف مصنوعی ذہانت کی صنعت کے اندر ایک ایسے سوال کو دوبارہ ابھار رہا ہے جو زیادہ فوری ہو چکا ہے: جب کمپنیاں اور حکومتیں ایک طرف اس کے خطرات کو سمجھنے اور ان پر قابو پانے کے آلات تیار کرنے کی کوشش کر رہی ہیں، تو دوسری طرف ماڈلز کی ترقی کو کس حد تک تیز کیا جا سکتا ہے؟