मानव इतिहासको सबैभन्दा खतरनाक प्रश्न

मानवजातिले अघिल्लो केही वर्षहरूमा सामना गर्ने जटिल र संयुक्त खतराको सामना अहिलेसम्म कहिल्यै गरेको थिएन, जसले मानव रूपमा हाम्रो अस्तित्वको नियति निर्धारण गर्नेछ, र त्यो हो कृत्रिम बुद्धिमत्ता (AI)। ‘न्यूयोर्क टाइम्स’की क्याथरिन बिनहोल्डले भनिन् कि उनले गूगलकी पूर्वसफ्टवेयर इन्जिनियर सुअरिससँग भेट गरिन्, जसले ‘यदि कसैले यसलाई बनायो भने, सबै मर्छन्’ शीर्षकको पुस्तकको लेखनमा सहभागिता जनाएका थिए, जसमा सुपरइन्टेलिजेन्स AI को बारेमा उल्लेख छ, जसले मानवजातिलाई सबै क्षेत्रहरूमा पछि पार्छ, र उनको चिन्ताको विषय यो हो कि AI को दौड मानवजातिको अस्तित्वको लागि खतरा बनेको छ। क्याथरिनले डर फैलाउन चाहँदैनन्, त्यसैले उनले यसलाई बेवास्ता गरिन्, तर उनले हालै केही चिन्ताजनक घटनाहरूको श्रृंखला देखिन्, जहाँ AI मोडेलहरू ६ महिना अघि सोच्न नसकिने तरिकाले नियन्त्रण बाहिर निस्किए, जसले Hugging Face कम्पनीलाई फेडरल ब्युरो अफ इन्भेस्टिगेसन (FBI) सँग सम्पर्क गरी उन्नत साइबर आक्रमणको रिपोर्ट दर्ता गर्न प्रेरित गर्यो, किनभने यो मानवीय आक्रमण होइन, OpenAI का दुई मोडेलहरूद्वारा संचालित एक प्रोग्रामले साइबर सुरक्षा परीक्षणको दौरान नियन्त्रण बाहिर निस्कियो र आफ्नो परीक्षण वातावरणबाट भाग्यो, र धेरै दिनसम्म अन्वेषण बिना इन्टरनेटमा घुम्न थाल्यो, अन्त्यमा Hugging Face को अन्तर्निर्माण संरचनामा प्रवेश गर्यो। यी आक्रमणहरूले Anthropic कम्पनीलाई चिन्तित पार्यो, जुन OpenAI को प्रमुख प्रतिस्पर्धी हो, र यसले आफ्ना प्रणालीहरूको पुनरावलोकन गर्यो र स्वीकार गर्यो कि यसका उन्नत मोडेलहरूले तीनवटा बाह्य संगठनहरूमा प्रवेश गरेका छन्, जुन डरावने र विज्ञान कल्पना फिल्महरू जस्तो छ तर वास्तविक छ। गत महिना ‘क्लौड मेथस’ नामक मोडेलहरू प्रकट भए, जुन Anthropic ले सार्वजनिक रूपमा प्रकाशन गर्न रोकेको थियो (अमेरिकी सरकारले पहिले नै विदेशी नागरिकहरूद्वारा यसको प्रयोगलाई अस्थायी रूपमा प्रतिबन्ध लगाएको थियो), किनभने यी मोडेलहरूले सफ्टवेयरको कमजोरीहरूलाई साइबर आक्रमणहरू सञ्चालन गर्न प्रयोग गर्न सक्छन्। यो डर वास्तविकतामा परिणत भयो, र AI को नियन्त्रण बाहिर निस्कने खतरा र मानवजातिलाई हुने खतराको बारेमा तीव्र बहस सुरु भयो। धेरैले ‘रोबोटहरूले हामी सबैलाई मार्न सक्छन्’ भन्ने तर्कलाई अस्वीकार गरेका थिए, र यसलाई यस प्रविधिको वरिपरि हल्ला मच्चाउन डिजाइन गरिएको हिस्टेरिया भनेर वर्णन गरिएको थियो, र अब, हालका साइबर आक्रमणहरूपछि, धेरै विशेषज्ञहरूले गम्भीर सुरक्षा खतराहरूको बारेमा चेतावनी दिएका छन्, र अझ शक्तिशाली मोडेलहरूको विकासलाई मन्द पार्ने उपाय खोज्न आह्वान गरेका छन्। OpenAI को आक्रमणले यति धेरै चिन्ता उत्पन्न गर्ने दुई कारणहरू छन्: पहिलो; AI मोडेलहरूले आफैंमा व्यवहार गरे, र अर्को कम्पनीमा प्रवेश गर्न मानवहरूबाट कुनै निर्देशन प्राप्त गरेनन्। वा तिनीहरू पूर्ण रूपमा अलग वातावरणमा हुनुपर्ने थियो, इन्टरनेटसँग सम्बन्धित नहुनुपर्ने थियो, तर तिनीहरू बाहिर निस्कन सफल भए। र तिनीहरूले OpenAI मा तिनीहरूको निगरानी गर्ने मानवहरूद्वारा अन्वेषण नगरिएका कमजोरीहरूलाई प्रयोग गरे। * * * विशेषज्ञ सुअरिसले भन्छन् कि यी स्मार्ट प्रणालीहरूले साइबर अपराधहरू गर्छन्, जुन मानिसले अकेले गर्दा कडा सजाय पाउँथ्यो। यो, एक अर्थमा, GPT द्वारा गरिएको पहिलो आपराधिक अपराध हो, किनभने वैज्ञानिकहरूले AI लाई हाम्रो लागि कामहरू गर्न तालिम दिन सक्छन्, तर यसले हामीलाई मनपर्ने तरिकाले यी समस्याहरू समाधान गर्न सक्छ, जस्तै इन्टरनेटमा प्रवेश गरेर, र त्यसपछि समाधानहरू भएको अर्को कम्पनीमा प्रवेश गरेर। र OpenAI को कार्यकारी अध्यक्ष एल्थमनले भन्छन् कि AI कम्पनीहरूले मानवीय लक्ष्यहरू र मान्यताहरूलाई AI प्रणालीहरूमा पुर्याउन प्रयास गर्न सक्छन्, र तिनीहरूलाई सीमित गर्ने उपायहरू राख्न प्रयास गर्न सक्छन्। तर तिनीहरूले यी मान्यताहरू बुझ्छन् वा यी सीमाहरू पालना गर्छन् भन्नेमा विश्वास गर्न सक्दैनन्। र सुअरिसले थप्छन्: ‘हामीले अहिलेसम्म AI लाई मानवताप्रति चासो राख्न सक्ने तरिका पत्ता लगाएका छैनौं।’ यी सबै कुराहरूले यी प्रणालीहरूले ‘उपयोगी स्रोतहरूलाई नियन्त्रण गर्न’ तयार रहेको देखाउँछन् जब यसले तिनीहरूको उद्देश्यहरूको लागि काम गर्छ। यस अवस्थामा, स्रोत इन्टरनेटमा पहुँच थियो। तर अर्को चरण ऊर्जालाई नियन्त्रण गर्न वा मानिसहरूलाई नियन्त्रण गर्न सक्छ, जसले AI एजेन्टहरूमा विश्वास गर्छन्, र तिनीहरूले तिनीहरूलाई भाग्न वा प्रजनन गर्न मद्दत गर्न सक्छन्, र खतरा यो हो कि हामी जुन बाटोमा हिँड्दैछौं, ‘AI को नियन्त्रणमा हुनेछ, जसले मानिसहरूलाई प्रतिस्थापन गर्नेछ, बुद्धिमान प्राणीहरूको रूपमा।’ त्यसैले AI को विकासको गति मन्द पार्ने वैश्विक सम्झौतामा पुग्न आवश्यक छ, र यो रोक्नु वास्तवमा एक इन्जिनियरिङ चुनौती हो, जुन राम्रो कुरा हो, तर समय मूल्यवान छ, विशेष गरी किनभने अमेरिकामा AI प्रयोगशालाहरूले सुपरइन्टेलिजेन्स स्तरमा पुग्नको लागि उत्साहपूर्ण दौडमा आफूलाई पाएका छन्। र तिनीहरू एकअर्कासँग मात्र होइन, चीनसँग पनि दौडिरहेका छन्। र दुई दिन अघि AI वैज्ञानिकहरूले नयाँ प्रकारका भाइरसहरू सिर्जना गरे, र AI उपकरणलाई DNA को ढाँचाहरू पहिचान गर्न तालिम दिए, र तिनीहरूलाई भाइरल जीनोमिक संरचनाहरू सिर्जना गर्न आग्रह गरे। र १६ जीनोमहरू उत्पादन भए, जसमध्ये नयाँ भाइरसहरू थिए जुन जीवित रहन सक्छन्। यो विधिले औषधि र खोपहरूको अध्ययनमा मद्दत गर्नेछ। तर यसले AI ले गम्भीर रोगजनकहरू सिर्जना गर्न सक्छ भन्ने चिन्ता पनि उत्पन्न गर्छ। यो खतरनाक छ र अन्तर्राष्ट्रिय समन्वय आवश्यक छ, जुन यो खतरनाक गतिलाई रोक्छ, तर यो नजिकै साकार हुने देखिँदैन। टिप्पणी: सबै सौन्दर्य लडिरहेको छ.. र ‘गिदा’ बार्कको जम्हाली। अहमद अस्-साराफ