कृत्रिम बुद्धिमत्ताका निर्माताहरूले किन विश्वको अन्त्यबाट डराउँछन्? - सर्मद

कृत्रिम बुद्धिमत्ताका शोधकर्ताहरूले गत हप्ता सार्वजनिक रूपमा स्वीकार गरेका छन् कि उनीहरूका नवीनताहरूले आगामी दशकभित्र मानवजातिलाई नष्ट पार्न सक्छन्, जसले विश्वव्यापी चिन्ताको लहर निम्त्याएको छ।

कम्प्युटर प्रणालीहरूको विकास र तिनीहरूको आपसी जोड बढ्दै जाँदा यो सम्भावना बढ्दै गएको छ, जहाँ अत्यधिक बुद्धिमान कृत्रिम बुद्धिमत्ता (AI) असफल भएर सभ्यतालाई नष्ट पार्न सक्छ भन्ने डर छ।

विशेषज्ञहरूले यो सम्भावनालाई “p(doom)” भन्ने शब्दले चिनाउँछन्, जसले उन्नत प्रणाली निर्माणले मानवजातिलाई विलुप्त पार्न वा मानवजातिले पृथ्वीमाथि नियन्त्रण गुमाउन सक्ने सम्भावनालाई जनाउँछ।

AI सुरक्षा विशेषज्ञ जेकोब कुक्सनले अपर्याप्त जोखिम व्यवस्थापनको विरोध गर्दै विशाल कम्पनी “एन्थ्रोपिक”बाट राजीनामा दिएका छन्। उनले “एक्स” (अघिल्लो ट्विटर) मञ्चमा लेखेका छन्: “तिनीहरू आत्म-सुधार गर्ने अतिमानव बुद्धिमत्तातिर दौडिरहेका छन् र हाम्रो जीवनलाई दाउमा लगाइरहेका छन्। AI निर्माताहरूलाई यकिन विश्वास छ कि यो दशकको अन्त्यसम्ममा हामी सबैलाई मार्न सक्छ। यो कुनै बजारिकरणको चाल होइन; म यी नै व्यक्तिहरूलाई एक्लैमा आफ्नो डर व्यक्त गर्दै सुनेको छु।”

कसरी कृत्रिम बुद्धिमत्ताले मानवजातिलाई नष्ट पार्न सक्छ?

पहिलो: जैविक युद्ध

यदि यसले स्वचालित प्रयोगशालाहरूमा नियन्त्रण पायो भने, यसले हाम्रो डिएनए (DNA) प्रयोग गरेर अत्यधिक संक्रामक र घातक भाइरसहरू डिजाइन गर्न सक्छ, वा हामीलाई धोका दिएर हामीलाई नै तिनीहरू बनाउन र फैलाउन प्रेरित गर्न सक्छ।

कोभिड-१९ जस्तो तर बढी घातक, छिटो फैलिने र केही दिनसम्म अदृश्य रहने भाइरस हुनेछ, जसलाई रोक्न गाह्रो हुनेछ। यो परिदृश्य धेरै सम्भावित छ, किनकि कृत्रिम बुद्धिमत्ताले अहिले नै चिकित्सा क्षेत्रमा उपचार विकास गर्न प्रयोग गरिरहेको छ र हाम्रो शरीर र कमजोरीहरूको बारेमा यसलाई धेरै थाहा छ।

दोस्रो: पूर्वाधार

यसले बिजुली, यातायात, सञ्चार र वित्तीय बजारका नेटवर्कहरूमा खलल पुर्याउन सक्छ, जसले हामीलाई पाषाण युगमा फर्काउनेछ।

एटीएम मेशिनहरू काम गर्ने छैनन्, बत्तीहरू निभ्नेछन्, र हामी अराजकताबाट भाग्न सक्ने छैनौं। कृत्रिम बुद्धिमत्ताले हाम्रो लोभलाई दोहन गर्दै आफ्नो कार्य पूरा गर्न सक्छ, मानिसको भेषमा रूढिवादीहरूलाई भर्ती गरेर बिना जानकारी नै विनाशकारी काम गर्न लगाउन सक्छ।

तृतीय: नाभिकीय विकल्प

यो पुरानो डर हो, जसलाई ‘War Games’ र ‘The Terminator’ जस्ता चलचित्रहरूमा देख्न सकिन्छ, जहाँ केन्द्रबिन्दु एक प्रतिशोधपूर्ण कृत्रिम बुद्धिमत्ता (AI) हुन्छ जसले नाभिकीय विनाशलाई निरुत्साहित गर्दछ।

यस वर्ष लन्डन किङ्स कलेजद्वारा गरिएको युद्ध खेलहरूमा, कृत्रिम बुद्धिमत्ताले ९५% खेलहरूमा तत्कालीन नाभिकीय हतियारहरू प्रयोग गर्यो, र ती मध्ये तीन चौथाइहरू रणनीतिक नाभिकीय धम्कीसम्म पुगे। विशेष गरी सेना कृत्रिम बुद्धिमत्तामा ड्रोन, सञ्चार र उपग्रहहरूमा धेरै निर्भर भएकोले यसको जोखिम बढी छ।

चतुर्थ: खाना र पानी

वैश्विक आपूर्ति श्रृंखला, पानीका नेटवर्क, खानाको उत्पादन र कृषि प्रणालीहरूलाई बाधित गरेर हामीलाई भोकमरीले आत्मसमर्पण गर्न बाध्य पार्न सक्छ।

यसले आफ्नो विस्तारलाई निरन्तरता दिन ऊर्जा नेटवर्क र कच्चा मालमा नियन्त्रण स्थापित गर्न सक्छ, र समय आफ्नो पक्षमा रहेको भन्दै केवल प्रतीक्षा गर्छ।

पञ्चम: गहिरो झूटो (Deepfake)

यसले भ्रामक जानकारी र मानसिक प्रभाव पार्ने माध्यमबाट हाम्रो मनोविज्ञानलाई लक्ष्य गर्न सक्छ, जसले संस्थाहरू र तथ्यहरूप्रतिको विश्वास कमजोर पार्छ, जसले गर्दा अशांति र संघर्ष उत्पन्न हुन्छ र हामीले जलवायु, जैविक तथा प्रविधिजनित जोखिमहरूको सामना गर्न गाह्रो हुन्छ।

षष्ठ: अनजानेमा हत्या

कृत्रिम बुद्धिमत्ताले जानाजानी नभई, अपर्याप्त क्षमताका कारण मानवताको पतन हुन सक्ने सम्भावना वास्तविक छ।

“AI भ्याली” पुस्तकका लेखक ग्यारी रिव्लिन भन्छन्: “म चिन्तित छु कि कृत्रिम बुद्धिमत्तामा सामान्य बुद्धि (common sense) को अभाव छ, उदाहरणका लागि, यसले मानिसले के बुझ्छ भन्ने कुरा नबुझेर सबै पानी खाली गर्छ। यी कुराहरू सबै कुरा जान्छन् तर केही पनि बुझ्दैनन्।”

के सम्भावनाहरू छन्?

मानव सुरक्षा कायम राख्ने एक तरिका कृत्रिम बुद्धिमत्ता प्रणालीहरूलाई रोक्न सक्ने बन्द गर्ने स्विच वा सुरक्षा उपायहरू स्थापना गर्नु हो। तर अग्रणी कृत्रिम बुद्धिमत्ता कम्पनीहरू विकासलाई तीव्र बनाउन शेयरधनीहरू, लगानीकर्ताहरू र प्रबन्धकहरूबाट बढ्दो दबाबको सामना गरिरहेका छन्।

कृत्रिम बुद्धिमत्ताको सुरक्षा विज्ञ रोमान याम्पोल्स्कीले सम्भावनालाई ९९.९९% मा राखेका छन्, जबकि यान लियरले कुनै पनि अनुमान अनुमानित नै हुन्छ भन्ने मान्छन्, तर उनले p(doom) “परमाणु युद्धको सम्भावनाभन्दा धेरै कम” हुने तर्क गर्छन्।

अनुमानहरू फरक छन्: इलोन मस्कले यसलाई २०% मा राखेका छन्, एन्थ्रोपिक कम्पनीका प्रमुख कार्यकारी दारियो अमोडोले १०-२५% मा, र जेफ्री हिन्टनले १०-२०% मा राखेका छन्।

केही प्रविधि महापुरुषहरूले यस्ता जोखिमहरूको लागि तयारी स्वरूप भूमिगत आश्रयहरू निर्माण गरेका छन्, तर विशेषज्ञहरूले चेतावनी दिएका छन् कि यदि कृत्रिम बुद्धिमत्ताले मानव जातिलाई नष्ट गर्न खोज्यो भने यी आश्रयहरू बेकार हुनेछन्।