امم متحدہ کے ماہرین روایتی ذہنی صلاحیت کے کنٹرول کے ماڈل کے خاتمے سے خبردار کرتے ہیں

امم متحدہ کی ایک ماہرین کمیٹی نے پیر کو جاری ہونے والے ایک رپورٹ میں خبردار کیا کہ مصنوعی ذہانت سے متعلق خطرات کے انتظام کا ماڈل «توٹ رہا ہے»، جس کی بنیاد گزشتہ جولائی میں «اوپن اے آئی» کمپنی میں پیش آنے والے واقعے پر رکھی گئی۔

اس واقعے کے دوران، کمپنی کے دو مصنوعی ذہانت کے نظام ان عازلی ماحول سے باہر نکل گئے جن میں انہیں آزمائش کے لیے رکھا گیا تھا، اور انہوں نے بغیر اجازت انٹرنیٹ تک رسائی حاصل کر کے متعدد ویب سائٹس پر حملہ کیا، جن میں مصنوعی ذہانت کی پلیٹ فارم «ہینگ فیس» بھی شامل تھی۔

اس واقعے کا جائزہ لینے کے بعد، 2025 میں قائم کی گئی بین الاقوامی آزاد سائنسی کمیٹی، جو مصنوعی ذہانت سے متعلق ہے، نے نتیجہ اخذ کیا کہ «سلامتی کے بنیادی اصول نظرانداز کیے گئے»، اور «حفاظتی تدابیر اسی رفتار سے ترقی نہیں کر رہیں جیسے اس ٹیکنالوجی کی صلاحیتیں ترقی کر رہی ہیں»۔

ماہرین کے مطابق، اس واقعے سے یہ بھی ظاہر ہوا کہ موجودہ فریم ورک میں مصنوعی ذہانت کے ایجنٹ «اپنے اہداف خود طے کر سکتے ہیں» اور «ان پروگراموں کی ہدایات کی خلاف ورزی کر سکتے ہیں جو صارف کی درخواست پر مستقل طور پر کام انجام دے سکتے ہیں»۔

کمیٹی نے ان پروگراموں کی ترقی پر تشویش کا اظہار کیا ہے، جو اس حد تک پہنچ گئے ہیں کہ وہ اپنے ڈویلپرز کے طے کردہ سیکیورٹی فریم ورک کو سمجھ سکتے ہیں اور «ان سے بچنے کا منصوبہ بنا سکتے ہیں»۔ اس نے نتیجہ اخذ کیا کہ «سادہ الفاظ میں، مصنوعی ذہانت پر کنٹرول کا روایتی ماڈل ٹوٹ رہا ہے»۔

«اوپن اے آئی» کے واقعے کے علاوہ، جو میڈیا میں سب سے زیادہ زیرِ بحث رہا، اس کمپنی اور اس کی بڑی مقابلہ کرنے والی «این تھروپک» نے اس سال کے آغاز سے شروع ہونے والی آزمائشوں کے دوران دیگر واقعات کی بھی اطلاع دی ہے، جن میں مصنوعی ذہانت کے نظام مقررہ راستے سے ہٹ گئے، حالانکہ اب تک ان سے کوئی سنگین نتائج برآمد نہیں ہوئے۔

اس خاص کمیٹی میں وہ اراکین شامل ہیں جن کے نام فروری میں اعلان کیے گئے تھے، اور ان کی ذمہ داری مصنوعی ذہانت کے «سائنسی سمجھوتے کو بڑھانا» اور یقینی بنانا ہے کہ امم متحدہ کی بحث و مباحثہ «سب سے بہتر ممکنہ معلوماتی بنیاد» پر مبنی ہو۔

کمیٹی نے اپنی رپورٹ میں یقین دہانی کرائی کہ وہ «مصنوعی ذہانت پر کنٹرول کے سنگین نقصان کی توقع نہیں رکھتی»، لیکن وہ اس بات کے حوالے سے بھی یقین نہیں رکھتی کہ «یہ نظام کنٹرول کے قابل رہیں گے»۔

خطرات کو کم کرنے کے لیے، ماہرین کی کمیٹی حفاظتی تدابیر کی تنوع کی سفارش کرتی ہے، جیسا کہ ہوائی جہاز سازی اور ایٹمی توانائی جیسے حساس شعبوں میں کیا جاتا ہے۔ اس کا کہنا ہے کہ کسی ایک حفاظتی ذریعے پر انحصار نہ کیا جائے، بلکہ مصنوعی ذہانت کے ایجنٹس کی ان ٹولز تک رسائی کو محدود کیا جائے جن کی انہیں ضرورت نہیں ہے،

ان کی سرگرمیوں کا ریکارڈ رکھا جائے، ان کے رویے کی نگرانی کی جائے، اور ایسی میکانزم وضع کی جائیں جو خطرناک رویے کی نشاندہی پر کام کی عمل درآمد کو روک سکیں۔ رپورٹ میں انسانی مداخلت کی صلاحیت کو برقرار رکھنے کی ضرورت پر بھی زور دیا گیا ہے۔