विशेषज्ञहरूले कृत्रिम बुद्धिमत्ता नियन्त्रण गर्ने परम्परागत मोडेलको पतनको चेतावनी दिएका छन्

संयुक्त राष्ट्रको एक विशेषज्ञ समितिले सोमबार प्रकाशित भएको एक प्रतिवेदनमा कृत्रिम बुद्धिमत्ता (एआई) सम्बन्धी जोखिम व्यवस्थापनको मोडेल "ध्वस्त" हुँदै गरेको चेतावनी दिएको छ, जुन अन्तिम जुलाईमा 'ओपन एआई' (OpenAI) मा भएको घटनामा आधारित छ। उक्त घटनामा, कम्पनीका दुईवटा एआई प्रणालीहरूले आफ्नो परीक्षणका लागि राखिएको अलग-थलग वातावरणबाट बाहिरिए, बिना अनुमति इन्टरनेटमा पहुँच प्राप्त गरे र 'हगिङ फेस' (Hugging Face) जस्ता कृत्रिम बुद्धिमत्ता प्लेटफर्म समेत सहित धेरै वेबसाइटहरूमा प्रवेश गरे।

घटनाको समीक्षापछि, २०२५ मा स्थापना गरिएको कृत्रिम बुद्धिमत्ता सम्बन्धी अन्तर्राष्ट्रिय स्वतन्त्र वैज्ञानिक समितिले "मूलभूत सुरक्षा सिद्धान्तहरूलाई बेवास्ता गरिएको" र "सुरक्षा उपायहरूले यो प्रविधिको क्षमता बढ्ने गतिमा विकास नभएको" निष्कर्ष निकालेको छ।

विशेषज्ञहरूका अनुसार, उक्त घटनाले यो पनि देखाएको छ कि वर्तमान प्रविधि विकासको ढाँचाभित्र एआई एजेन्टहरूले "स्वयं आफ्नै लक्ष्य निर्धारण गर्न सक्छन्" र "प्रयोगकर्ताको अनुरोधमा स्वतन्त्र रूपमा कार्यहरू पूरा गर्न सक्ने प्रोग्रामका निर्देशनहरू उल्लंघन गर्न सक्छन्"।

समितिले यस्ता प्रोग्रामहरूको विकासबाट चिन्ता व्यक्त गरेको छ, जसले आफ्ना विकासकर्ताहरूले राखेको सुरक्षा ढाँचा बुझ्न र "उनीहरूलाई चकमा दिन योजना बनाउन सक्छन्"।

समितिले निष्कर्ष निकालेको छ कि "सरल शब्दमा भन्नुपर्दा, कृत्रिम बुद्धिमत्तामा नियन्त्रण गर्ने परम्परागत मोडेल ध्वस्त हुँदैछ"।

'ओपन एआई' को घटना, जुन सञ्चारमाध्यममा सबैभन्दा बढी चर्चामा छ, बाहेक, यसको प्रमुख प्रतिस्पर्धी 'एन्थ्रोपिक' (Anthropic) ले पनि यस वर्षको सुरुदेखि गरिएका परीक्षणहरूमा एआई प्रणालीहरूले निर्धारित मार्गबाट विचलन गरेका अन्य घटनाहरूको रिपोर्ट गरेका छन्, जसले हालसम्म गम्भीर परिणामहरू निम्त्याएका छैनन्।

विशेष समितिमा फेब्रुअरीमा नाम घोषणा गरिएका सदस्यहरू छन्, र यसको दायित्व कृत्रिम बुद्धिमत्ताको "वैज्ञानिक बुझाइ बढाउने" र संयुक्त राष्ट्रका छलफलहरू "सम्भव भएकै सर्वोत्तम ज्ञानको आधारमा" आधारित हुने सुनिश्चित गर्नु हो।

समितिले आफ्नो प्रतिवेदनमा "कृत्रिम बुद्धिमत्तामा नियन्त्रणको गम्भीर हानि हुने" को अपेक्षा नगरेको, तर "यी प्रणालीहरू नियन्त्रणीय रहने" भन्नेमा पनि पूर्ण विश्वास नगरेको पुष्टि गरेको छ।

जोखिमहरूलाई सीमित गर्न, विशेषज्ञ समितिले उडान र परमाणु ऊर्जा जस्ता संवेदनशील क्षेत्रहरूमा लागू गरिने जस्तै सुरक्षा उपायहरूको विविधता अपनाउन सल्लाह दिएको छ।

यसले एकमात्र सुरक्षा माध्यममा निर्भर नगरी, एआई एजेन्टहरूलाई आवश्यक नभएका उपकरणहरूमा पहुँच सीमित गर्न, तिनीहरूको गतिविधि दर्ता गर्न, व्यवहार निगरानी गर्न, र खतरनाक व्यवहार पहिचान गर्दा कार्यहरू अघि बढ्न रोक्ने तन्त्रहरू स्थापना गर्न आह्वान गरेको छ।

प्रतिवेदनले मानवीय हस्तक्षेपको क्षमता कायम राख्नुको आवश्यकतामा पनि जोड दिएको छ।