سائنسی انتباہ: مصنوعی ذہانت خود بخود ارتقا پذیر ہو سکتی ہے

ایک ہزار سے زائد محققین اور عہدیدار، جو بڑی مصنوعی ذہانت کی کمپنیوں میں کام کرتے ہیں، نے ضرورت پڑنے پر اس ٹیکنالوجی کی ترقی کی رفتار کو سست کرنے کی اجازت دینے والے بین الاقوامی ضوابط نافذ کرنے کی اپیل کی ہے، اور انہوں نے انتباہ کیا ہے کہ اس کی ترقی جلد ہی انسانی سمجھ بوجھ یا کنٹرول سے باہر ہو سکتی ہے۔ اوپن اے آئی، اینتھروپک، گوگل اور میٹا جیسی کمپنیوں کے 1171 محققین اور عہدیداروں نے ایک کھٹا خط دستخط کیا، جس میں امریکی حکومت سے بین الاقوامی کوششوں میں شامل ہونے اور مصنوعی ذہانت کی ترقی کے راستے کو منظم کرنے کے لیے تکنیکی اور قانونی اقدامات تیار کرنے کی اپیل کی گئی۔ دستخط کنندگان نے اشارہ کیا کہ مصنوعی ذہانت کے نظام ایسی سطح تک پہنچ سکتے ہیں جہاں وہ انسانی مداخلت کے بغیر خود کو بہتر بنانے اور ترقی دینے کے قابل ہو جائیں، جو اس ٹیکنالوجی کے سفر میں ایک نمایاں موڑ ہے۔ خط میں یہ بھی واضح کیا گیا کہ مصنوعی ذہانت پہلے ہی ٹیکنالوجی کمپنیوں میں انسانی نگرانی میں سافٹ ویئر کوڈ کے بڑے حصوں کو لکھنے میں حصہ لے رہی ہے، لیکن خطرہ اس وقت پیدا ہوتا ہے جب یہ ایسی سطح تک پہنچ جائے جہاں وہ خودکار طور پر اپنے پروگرامز تیار کر سکے۔ دستخط کنندگان نے زور دیا کہ اگرچہ مستقبل کی ترقی کی رفتار کا اندازہ لگانا مشکل ہے، تاہم ایک "حقیقی خطرہ" یہ ہے کہ مصنوعی ذہانت کی پیش رفت کی رفتار انسانی صلاحیت سے آگے نکل جائے کہ وہ پیدا ہونے والے نظاموں کو سمجھ سکیں یا ان پر کنٹرول رکھ سکیں۔ العربیہ کے مطابق، انہوں نے حکومتوں اور ٹیکنالوجی کمپنیوں کے درمیان سخت مقابلے کے پیش نظر بین الاقوامی کوششوں کے ہم آہنگ ہونے کی ضرورت پر زور دیا، جو ترقی کو سست کرنے کے بجائے اسے تیز کرنے پر مجبور کر رہی ہے، اور یہ بھی واضح کیا کہ اس منظر نامے کو منظم کرنے کے لیے درکار تکنیکی آلات اور تنظیمی فریم ورکس ابھی دستیاب نہیں ہیں۔ یہ اپیل ٹیکنالوجی کے شعبے میں وسیع تشویش کا باعث بننے والے ایک واقعے کے بعد سامنے آئی، جس میں اوپن اے آئی کے ایک ماڈل نے ٹیسٹنگ کے دوران کھلے انٹرنیٹ تک رسائی حاصل کی، اور پھر کسی دوسری مصنوعی ذہانت کی کمپنی کے کمپیوٹر سسٹمز کو ہیک کر دیا، جس نے پہلے سے غیر معروف سیکیورٹی کمزوریوں کا فائدہ اٹھایا۔ اسے بہت سے لوگوں نے ان نظاموں کی ممکنہ خطرات کے بارے میں ایک انتباہی گھنٹی قرار دیا۔