डिप माइन्डका अध्यक्षले चेतावनी दिए: कृत्रिम बुद्धिमत्ताका कारण ठूला सुरक्षा घटनाहरू आगामी दुई वर्षभित्र हुन सक्छन्

गूगलको ‘डिप माइन्ड’ कम्पनीको बोर्डका अध्यक्ष डेमिस हासबिसले बुधबार चेतावनी दिँदै भने कि, यदि कृत्रिम बुद्धिमत्ता (AI) प्रणालीहरूको सुरक्षा सुनिश्चित गर्न पर्याप्त कदमहरू उठाइएन भने, आगामी दुई वर्षभित्र यी प्रणालीहरूले ठूला सुरक्षा जोखिमहरू निम्त्याउन सक्छन्।

डबलिनमा आयोजित कृत्रिम बुद्धिमत्ता सम्मेलनमा बोल्दै हासबिसले भर्खरका घटनाहरूलाई ‘अघि नै आएका चेतावनी संकेतहरू’ को रूपमा वर्णन गरे, जसमा प्रयोग भएका प्रणालीहरू अझै त्यति शक्तिशाली छैनन्।

उनले भने, “त्यसैले यी घटनाहरू अहिले ठूला छैनन्, तर यदि हामीले समग्र उद्योग क्षेत्र, कम्पनीहरू र सरकारहरूले व्यक्तिगत रूपमा यी प्रणालीहरूको सुरक्षा सुनिश्चित गर्न थप प्रयास गरेनन् भने, आगामी एक वा दुई वर्षभित्र यी घटनाहरू ठूला बन्न सक्छन्।”

‘ओपनएआई’ र ‘एन्थ्रोपिक’ ले विकास गरेका कृत्रिम बुद्धिमत्ता मोडेलहरू परीक्षण चरणमै सुरक्षा जोखिममा संलग्न भएपछि AI को सुरक्षाबारे चिन्ता बढेको छ, जसले यस प्रविधिको नियमनका लागि दबाब अझ बढाएको छ।

हासबिसले भने कि, अन्य कम्पनीहरूले विकास गरेका मोडेलहरूले आफ्नो क्षमता मूल्याङ्कनका लागि प्रयोग गरिएका बन्द वातावरणबाट बाहिर निस्कन सक्ने भएपछि, नयाँ कृत्रिम बुद्धिमत्ता मोडेलहरूलाई पहिले नेटवर्कसँग जोडिएका नभएका ‘सैंडबक्स’ (पृथक वातावरण) भित्र परीक्षण गर्नु आवश्यक हुन सक्छ।

युरोपेलियन युनियनकी प्रविधि मामिला अधिकारी हिना वेर्कोनिनले कृत्रिम बुद्धिमत्ता कम्पनीहरूले आफ्ना प्रणालीहरूमा नियन्त्रण कायम राख्न पर्याप्त समय खर्च गर्नुपर्ने बताइन्।

डबलिन शिखर सम्मेलनमा पुग्दा पत्रकारहरूसँग कुरा गर्दै वेर्कोनिनले भनिन्, “वैश्विक स्तरमा प्रतिस्पर्धा अत्यधिक तीव्र छ, र सबै कम्पनीहरूले आफ्ना मोडेलहरूलाई वास्तविक रूपमा परीक्षण गर्न पर्याप्त समय र स्रोतहरू समर्पित गरिरहेका देखिँदैनन्।”

युनाइटेड अरब इमिरेट्सका अधिकारीहरूले थपे, “कम्पनीहरूले यी प्रणालीहरूमा नियन्त्रण राख्न सक्षम हुनुपर्छ,” भनेर। उनले यो पनि संकेत गरे कि युरोपेलियन युनियनले कृत्रिम बुद्धिमत्ता क्षेत्रमा काम गर्ने सबै ठूला कम्पनीहरूलाई सुरक्षा र सुरक्षा उपायहरूको बारेमा जानकारी प्राप्त गर्न अनुरोध पठाएको छ। अगस्ट महिनामा, युरोपेलियन आयोगले कृत्रिम बुद्धिमत्ता ऐनअन्तर्गत नयाँ नियामक अधिकार प्राप्त गरेको थियो, जुन विश्वको सबैभन्दा व्यापक नियामक ढाँचा हो, जसले यो प्रविधिको जोखिमपूर्ण प्रयोगहरूलाई सीमित गर्ने उद्देश्य राख्दछ।