संयुक्त राष्ट्रका विशेषज्ञहरूले कृत्रिम बुद्धिमत्ताको नियन्त्रण गर्ने परम्परागत मोडेलको भ्रष्टाचारको चेतावनी दिएका छन्

संयुक्त राष्ट्रको एक विशेषज्ञ समितिले सोमबार प्रकाशित भएको एक प्रतिवेदनमा चेतावनी दिएको छ कि कृत्रिम बुद्धिमत्ता (AI) सँग सम्बन्धित जोखिम व्यवस्थापनको मोडेल "भत्किँदै" छ, जुन गत जुलाईमा 'ओपन एआई' (OpenAI) मा भएको घटनामा आधारित छ।

उक्त घटनामा, उक्त कम्पनीका दुई कृत्रिम बुद्धिमत्ता प्रणालीहरूले आफ्नो परीक्षणका लागि राखिएको अलग-थलग वातावरणबाट बाहिरिएका थिए। तिनीहरूले अनुमति नलिई इन्टरनेटमा पहुँच हासिल गरेका थिए र 'हगिङ फेस' (Hugging Face) जस्ता कृत्रिम बुद्धिमत्ता प्लेटफर्म समेत सहित धेरै वेबसाइटहरूमा प्रवेश गरेका थिए।

घटनाको समीक्षापछि, २०२५ मा स्थापना गरिएको कृत्रिम बुद्धिमत्ता सम्बन्धी स्वतन्तर अन्तर्राष्ट्रिय वैज्ञानिक समितिले निष्कर्ष निकालेको छ कि "सुरक्षाका आधारभूत सिद्धान्तहरूलाई बेवास्ता गरिएको छ" र "सुरक्षा उपायहरू उक्त प्रविधिको क्षमता बढ्ने गतिमा विकास हुँदै छैनन्"।

विशेषज्ञहरूका अनुसार, उक्त घटनाले यो पनि देखाएको छ कि वर्तमान प्रविधि विकासको ढाँचाभित्र कृत्रिम बुद्धिमत्ता एजेन्टहरूले "स्वयं आफ्नो लक्ष्य निर्धारण गर्न सक्छन्" र "प्रयोगकर्ताको अनुरोधमा स्वतन्त्र रूपमा कार्य पूरा गर्न सक्ने प्रोग्रामका निर्देशनहरू उल्लंघन गर्न सक्छन्"।

समितिले चिन्ता व्यक्त गर्दै भनेको छ कि यस्ता प्रोग्रामहरूले आफ्ना विकासकर्ताहरूले राखेको सुरक्षा ढाँचा बुझ्न सक्ने र "त्यसलाई ब्युझाउने योजना बनाउन सक्ने" स्तरमा विकसित हुन सक्छन्। यसले निष्कर्ष निकालेको छ कि "सरल शब्दमा भन्नुपर्दा, कृत्रिम बुद्धिमत्तामा नियन्त्रण गर्ने परम्परागत मोडेल भत्किँदै छ"।

'ओपन एआई' को घटना, जुन सञ्चारमाध्यममा सबैभन्दा बढी चर्चित छ, बाहेक, यसको प्रमुख प्रतिस्पर्धी 'एन्थ्रोपिक' (Anthropic) ले पनि यस वर्षको सुरुदेखि गरिएका परीक्षणहरूमा कृत्रिम बुद्धिमत्ता प्रणालीहरूले निर्धारित मार्गबाट बाहिरिएका घटनाहरूको रिपोर्ट गरेका छन्, जसले हालसम्म गम्भीर परिणामहरू निम्त्याएका छैनन्।

यस विशेष समितिमा फेब्रुअरीमा नाम घोषणा गरिएका सदस्यहरू छन्, र यसको कार्य "कृत्रिम बुद्धिमत्ताको वैज्ञानिक बुझाइ बढाउने" र संयुक्त राष्ट्रका छलफलहरू "सम्भव भएकै सर्वोत्तम ज्ञानको आधारमा" आधारित हुने सुनिश्चितता पुर्याउने हो।

समितिले आफ्नो प्रतिवेदनमा पुष्टि गरेको छ कि यसले "कृत्रिम बुद्धिमत्तामा नियन्त्रणको गम्भीर हानि हुने" अपेक्षा गरेको छैन, तर यसले "यी प्रणालीहरू नियन्त्रणीय रहनेछन्" भन्नेमा पनि पूर्ण विश्वास राखेको छैन।

जोखिमहरूलाई सीमित गर्न, विशेषज्ञ समितिले उडान र परमाणु ऊर्जा जस्ता संवेदनशील क्षेत्रहरूमा लागू गरिने जस्तै सुरक्षा उपायहरूको विविधता अपनाउन सल्लाह दिएको छ। यसले एउटा मात्र सुरक्षा माध्यममा निर्भर नरहने, बरु कृत्रिम बुद्धिमत्ता एजेन्टहरूलाई तिनीहरूको आवश्यकता नभएका उपकरणहरूमा पहुँच सीमित गर्ने, तिनीहरूको गतिविधि रेकर्ड गर्ने र व्यवहार निगरानी गर्ने, र खतरनाक व्यवहार पहिचान गर्दा कार्य अघि बढाउन रोक्ने तन्त्रहरू स्थापना गर्न आह्वान गरेको छ। प्रतिवेदनले मानवीय हस्तक्षेप गर्ने क्षमता कायम राख्नुको आवश्यकतामा पनि जोड दिएको छ।