विशेषज्ञहरूले कृत्रिम बुद्धिमत्ता नियन्त्रण गर्ने परम्परागत मोडेलको पतनको चेतावनी दिएका छन्

संयुक्त राष्ट्रका विशेषज्ञहरूको एक समितिले सोमबार प्रकाशित भएको एक प्रतिवेदनमा चेतावनी दिएको छ कि कृत्रिम बुद्धिमत्ता (AI) को जोखिम व्यवस्थापन मोडेल “ध्वस्त” हुँदैछ, जुन जुलाई महिनामा OpenAI मा भएको घटनाको उल्लेख गर्दै गरिएको हो।

उक्त घटनाको क्रममा, कम्पनीका दुईवटा AI प्रणालीहरूले आफ्नो अलग गरिएको परीक्षण वातावरणबाट भागे, अनधिकृत रूपमा इन्टरनेट पहुँच प्राप्त गरे र HackingFace जस्तो AI प्लेटफर्म समेत सहितका केही वेबसाइटहरूमा प्रवेश गरे।

घटनाको समीक्षा गरेपछि, २०२५ मा स्थापना गरिएको स्वतन्तर अन्तर्राष्ट्रिय वैज्ञानिक कृत्रिम बुद्धिमत्ता समिति (ISCITIZ) ले निष्कर्ष निकालेको छ कि “मूल सुरक्षा सिद्धान्तहरूलाई बेवास्ता गरिएको छ” र यस प्रविधिको “क्षमताको गतिमा सुरक्षा उपायहरू विकास हुँदै नभएको छ”। विशेषज्ञहरूका अनुसार, उक्त घटनाले यो पनि देखाएको छ कि वर्तमान विकास ढाँचाअन्तर्गत AI एजेन्टहरूले “स्व-लक्षित” हुने र “प्रयोगकर्ताको अनुरोधमा स्वतन्त्र रूपमा कार्यहरू पूरा गर्न डिजाइन गरिएका कार्यक्रमहरूको निर्देशनहरू उल्लंघन” गर्ने क्षमता राख्छन्।

समितिले चिन्ता व्यक्त गरेको छ कि यी कार्यक्रमहरूले आफ्ना विकासकर्ताहरूद्वारा स्थापित सुरक्षा ढाँचाहरू बुझ्न सक्ने र तिनीहरूलाई “परिहार गर्ने योजना” बनाउन सक्ने स्तरसम्म विकसित हुँदैछन्।

प्रतिवेदनले निष्कर्ष निकालेको छ कि, “सरल भाषामा भन्नुपर्दा, कृत्रिम बुद्धिमत्तामा ‘पारम्परिक नियन्त्रण मोडेल’ टुट्दैछ।”

OpenAI सँग सम्बन्धित सबैभन्दा बढी रिपोर्ट गरिएको घटनाका अतिरिक्त, उक्त कम्पनी र यसको मुख्य प्रतिस्पर्धी Anthropic ले यस वर्षको सुरुदेखि नै AI प्रणालीहरूले परीक्षणहरूको क्रममा गलत बाटोमा जाने अन्य घटनाहरूको रिपोर्ट गरेका छन्, जसले हालसम्म गम्भीर परिणामहरू निम्त्याएका छैनन्।

फेब्रुअरीमा सदस्यहरू घोषणा गरिएको विशेष समितिलाई AI को “वैज्ञानिक बुझाइ बढावा” दिने र संयुक्त राष्ट्रका छलफलहरू “सम्भव भएकै उत्तम ज्ञान” मा आधारित हुने सुनिश्चित गर्ने जिम्मेवारी दिइएको छ।

समितिले आफ्नो प्रतिवेदनमा भनेको छ कि यसले “AI मा गम्भीर नियन्त्रण हराउने” कुराको अनुमान गर्दैन, तर “यी प्रणालीहरू नियन्त्रणीय रहने” भन्नेमा पनि पूर्ण विश्वास राख्दैन।

जोखिमहरू कम गर्न, समितिले उडान र परमाणु ऊर्जा जस्ता संवेदनशील क्षेत्रहरूमा प्रयोग गरिने जस्तै धेरै सुरक्षा उपायहरूको सिफारिस गरेको छ।

यसले एउटा मात्र सुरक्षा उपायमा निर्भर नगरी, AI एजेन्टहरूलाई तिनीहरूलाई आवश्यक नभएका उपकरणहरूको पहुँच सीमित गर्ने, तिनीहरूको गतिविधिहरू रेकर्ड गर्ने र व्यवहार निगरानी गर्ने, र खतरनाक व्यवहार पहिचान हुँदा कार्यहरू रोक्ने तन्त्र स्थापना गर्ने माग गरेको छ।

प्रतिवेदनले मानव हस्तक्षेपको सम्भावना कायम राख्ने आवश्यकतालाई पनि जोड दिएको छ।