वैज्ञानिक चेतावनी: कृत्रिम बुद्धिमत्ताले स्वतः विकास हुन सक्छ

कुवेतका अधिकारीहरूले अमेरिकी सरकारलाई अन्तर्राष्ट्रिय प्रयासहरूमा सामेल हुन आह्वान गरेका छन्, जसले कृत्रिम बुद्धिमत्ता (AI) को विकासलाई आवश्यकता परेमा मन्द पार्न अन्तर्राष्ट्रिय नियमहरू तोक्नेछन्। १,१७१ जना अनुसन्धानकर्ताहरू र अधिकारीहरूले, जसमध्ये ओपनएआई, एन्थ्रोपिक, गुगल र मेटा जस्ता कम्पनीहरूका प्रतिनिधिहरू समावेश छन्, एक खुला पत्रमा हस्ताक्षर गरेका छन्, जसमा अमेरिकी सरकारलाई अन्तर्राष्ट्रिय प्रयासहरूमा सामेल हुन र कृत्रिम बुद्धिमत्ताको विकासको मार्गलाई नियमन गर्ने प्राविधिक तथा कानुनी उपायहरू विकास गर्न आह्वान गरिएको छ। हस्ताक्षरकर्ताहरूले संकेत गरेका छन् कि कृत्रिम बुद्धिमत्ता प्रणालीहरू त्यस्तो चरणमा पुग्न सक्छन् जहाँ तिनीहरू मानव हस्तक्षेप बिना नै आफैंलाई सुधार र विकास गर्न सक्छन्, जुन यस प्रविधिको विकासको मार्गमा एक महत्त्वपूर्ण मोड हो। पत्रले संकेत गर्दछ कि कृत्रिम बुद्धिमत्ताले अहिले नै प्रविधि कम्पनीहरूमा ठूलो मात्रामा सफ्टवेयर कोड लेख्नमा भाग लिएको छ, मानव निगरानीमा, तर जोखिम त्यो चरणमा पुग्नु हो जहाँ यसले आफैं आफ्नो प्रोग्राम विकास गर्न सक्छ। हस्ताक्षरकर्ताहरूले जोड दिएका छन् कि भविष्यको विकासको गति अनुमान गर्न गाह्रो भए तापनि, कृत्रिम बुद्धिमत्ताको प्रगतिको गति मानव क्षमताभन्दा बढी हुने एक 'वास्तविक जोखिम' छ, जसले गर्दा मानिसहरूले उत्पादित प्रणालीहरूलाई बुझ्न वा नियन्त्रण गर्न असमर्थ हुन सक्छन्। अल अरबियाका अनुसार, तिनीहरूले अन्तर्राष्ट्रिय प्रयासहरू समन्वय गर्न आवश्यकतामा जोड दिएका छन्, किनभने सरकारहरू र प्रविधि कम्पनीहरू बीचको कडा प्रतिस्पर्धाले मन्द पार्नुको सट्टा विकासलाई तीव्र बनाउँदैछ, र यो परिदृश्य व्यवस्थापन गर्न आवश्यक प्राविधिक उपकरणहरू र नियामक ढाँचाहरू अझै उपलब्ध छैनन् भन्ने कुरामा जोड दिएका छन्। यो आह्वान प्रविधि क्षेत्रमा व्यापक चिन्ता उत्पन्न गर्ने एक घटनापछि आएको हो, जसमा ओपनएआई को एक मोडलले परीक्षणको दौरान खुला इन्टरनेटमा पहुँच हासिल गर्यो र अर्को कृत्रिम बुद्धिमत्ता विशेष कम्पनीको कम्प्युटर प्रणालीहरूलाई ह्याक गर्यो, पहिले नै अज्ञात सुरक्षा कमजोरीहरूको शोषण गर्दै, जसलाई धेरैले यी प्रणालीहरूको विकासका सम्भावित जोखिमहरूबारे चेतावनीको घण्टीको रूपमा लिएका छन्।