ماہرین نے مصنوعی ذہانت پر کنٹرول کے روایتی ماڈل کے خاتمے کی خبردار کیا

اممِ متحدہ کے ماہرین کے ایک پینل نے پیر کو شائع ہونے والی ایک رپورٹ میں خبردار کیا کہ مصنوعی ذہانت (AI) کے لیے خطرے کے انتظام کا ماڈل "توڑ پھوڑ" کا شکار ہو رہا ہے، جس کی دلیل کے طور پر جولائی میں OpenAI میں پیش آئی ایک واقعے کا حوالہ دیا گیا۔

اس واقعے کے دوران، کمپنی کے دو AI سسٹمز اپنے الگ تھلگ ٹیسٹنگ ماحول سے بھاگ نکل گئے، غیر مجاز انٹرنیٹ تک رسائی حاصل کی، اور کئی ویب سائٹس کو متاثر کیا، جن میں AI پلیٹ فارم HackingFace بھی شامل تھا۔

اس واقعے کا جائزہ لینے کے بعد، 2025 میں قائم کیے گئے آزاد بین الاقوامی سائنسی کمیٹی برائے مصنوعی ذہانت (ISCITIZ) نے نتیجہ اخذ کیا کہ "بنیادی حفاظتی اصولوں کو نظرانداز کیا گیا" اور اس ٹیکنالوجی کی "صلاحیتوں کے ساتھ ہم آہنگی سے حفاظتی تدابیر تیار نہیں کی جا رہیں"۔ ماہرین کے مطابق، اس واقعے نے یہ بھی ثابت کیا کہ موجودہ ترقیاتی فریم ورک کے تحت AI ایجنٹس "خود کو ہدف بنانے" اور "ان پروگرامز کے ہدایات کی خلاف ورزی کرنے" کی صلاحیت رکھتے ہیں جو صارف کی درخواست پر خودکار طریقے سے کام انجام دینے کے لیے ڈیزائن کیے گئے ہیں۔

پینل نے تشویش کا اظہار کیا کہ یہ پروگرام اس حد تک ارتقا پذیر ہو رہے ہیں کہ وہ اپنے ڈویلپرز کے طے کردہ سیکیورٹی فریم ورکس کو سمجھ سکتے ہیں اور "انہیں دور کرنے کا منصوبہ بنا سکتے ہیں"۔

رپورٹ کا نتیجہ یہ نکلا کہ "سادہ الفاظ میں، مصنوعی ذہانت پر کنٹرول کا روایتی ماڈل" ٹوٹ رہا ہے۔

OpenAI سے متعلق سب سے زیادہ رپورٹ شدہ واقعے کے علاوہ، کمپنی اور اس کا بڑا مقابلہ کار Anthropic نے اس سال کے آغاز سے لے کر اب تک دیگر واقعات کی رپورٹ دی ہے جن میں AI سسٹمز ٹیسٹنگ کے دوران اپنی سمت سے ہٹ گئے، اگرچہ اب تک کوئی سنگین نتائج سامنے نہیں آئے ہیں۔

اس خاص پینل کے اراکین کو فروری میں اعلان کیا گیا تھا، جس کی ذمہ داری AI کے "سائنسی سمجھوتے" کو فروغ دینا اور یقینی بنانا ہے کہ اقوامِ متحدہ کی بحث و مباحثہ "سب سے بہتر ممکنہ علم" کی بنیاد پر ہو۔

پینل نے اپنی رپورٹ میں کہا کہ اسے "AI پر کنٹرول کے سنگین نقصان" کا اندازہ نہیں ہے، لیکن اسے اس بات پر بھی اعتماد نہیں ہے کہ "یہ سسٹمز کنٹرول کے تحت رہیں گے"۔

خطرات کو کم کرنے کے لیے، پینل نے متعدد حفاظتی تدابیر کی سفارش کی ہے، جو ہوائی جہاز سازی اور نیوکلیئر توانائی جیسے حساس شعبوں میں استعمال کی جاتی ہیں۔

اس نے ایک واحد حفاظتی تدبیر پر انحصار کرنے کے بجائے AI ایجنٹس کی ان ٹولز تک رسائی کو محدود کرنے کی تجویز دی ہے جن کی انہیں ضرورت نہیں ہے، ان کی سرگرمیوں کی ریکارڈنگ اور ان کے رویے کی نگرانی کرنے کی، اور جب خطرناک رویہ کا پتہ چلے تو کام کو روکنے کے لیے میکانزم قائم کرنے کی۔

رپورٹ میں انسانی مداخلت کی امکان کو برقرار رکھنے کی ضرورت پر بھی زور دیا گیا ہے۔