खुला स्रोतको कृत्रिम बुद्धिमत्ताको प्रयोग बायोलाजिकल र रासायनिक हतियार विकासमा हुन सक्ने जोखिमबारे अध्ययनले चेतावनी दिएको छ - सरमद

एक सुरक्षा अध्ययनले चेतावनी दिएको छ कि कृत्रिम बुद्धिमत्ता (AI) को विकास, विशेष गरी ओपन-सोर्स मोडेलहरूले, दुर्भावनापूर्ण तत्वहरूलाई रासायनिक र जैविक हतियारहरू विकास गर्न आवश्यक जानकारी प्राप्त गर्न सजिलो बनाउन सक्छ।

क्राइमसन फ्लेयर अनुसन्धान समूहद्वारा तयार पारिएको प्रतिवेदन अनुसार, व्यावसायिक रूपमा उपलब्ध केही AI मोडेलहरूमा निर्मित सुरक्षा प्रणालीहरू हटाउन संशोधन गर्न सकिन्छ, जसले गर्दा यी मोडेलहरूले मूल मोडेलहरूले प्रतिक्रिया दिन अस्वीकार गर्ने प्रश्नहरूको उत्तर दिन सक्छन्।

सुरक्षा अनुसोधकर्ताहरूले चेतावनी दिएका छन् कि यी विकासहरूले विशेषज्ञ ज्ञान नभएका व्यक्तिहरूका लागि प्राविधिक अवरोधहरूलाई कम गर्न सक्छन्, जबकि अत्यन्तै खतरनाक पदार्थहरूसँग काम गर्न आवश्यक ज्ञान अघिल्लो समयमा मुख्यतया वैज्ञानिकहरू र विशेषज्ञहरूबीच सीमित थियो।

AI मोडेलहरूको सुरक्षा सीमाहरूलाई बेअसर गर्ने एक विधिलाई अनौपचारिक रूपमा “जेलब्रेकिङ” (Jailbreaking) भनिन्छ, जसको उद्देश्य केही अनुरोधहरू अस्वीकार गर्ने जिम्मेवारी भएका मोडेलका भागहरू हटाउनु हो। प्रतिवेदन अनुसार, यो प्रक्रिया छोटो समयमा, इन्टरनेटमा उपलब्ध उपकरणहरू र आधारभूत प्रोग्रामिङ ज्ञान प्रयोग गरेर कार्यान्वयन गर्न सकिन्छ।

खतरा केवल मोडेलहरूमा संशोधन गर्न सकिने कुरामा मात्र सीमित छैन; इन्टरनेटबाट पहिले नै संशोधित संस्करणहरू पनि खोजी गरी डाउनलोड गर्न सकिन्छ। ‘डेली मेल’ पत्रिकाका अनुसार, यसले केही मिनेटभित्रै प्रयोगको लागि उपलब्ध धेरै मोडेलहरूका ‘अनियन्त्रित’ (unrestricted) भनिने धेरै संस्करणहरू खोज्न सफल भएको छ।

प्रतिवेदनले संकेत गर्छ कि केही मोडेलहरूले सामान्य जानकारी मात्र प्रदान गर्छन्, जबकि अन्य मोडेलहरूले बढी विस्तृत उत्तरहरू दिन सक्छन्, जसले गर्दा यी प्रणालीहरूलाई खतरनाक गतिविधिहरूमा प्रयोग गर्ने सम्भावनाप्रति चिन्ता व्यक्त गरिएको छ।

प्रतिवेदनले चेतावनी दिएको छ कि शक्तिशाली र अनियन्त्रित ओपन-सोर्स ल्याङ्गुएज मोडेलहरू (LLMs) ले राष्ट्रिय सुरक्षाका लागि बढ्दो खतरा सिर्जना गर्न सक्छन्, विशेष गरी जब यी मोडेलहरू विकासकर्ता कम्पनीहरूका सर्भरहरूसँग सम्पर्क बिना नै स्थानीय रूपमा चलाउन सकिन्छ।

यी मोडेलहरू इन्टरनेट मार्फत काम गर्ने AI सेवाहरूभन्दा फरक छन्, किनभने प्रयोगकर्ताले मोडेल डाउनलोड गरी आफ्नै उपकरणमा सिधै चलाउन सक्छन्। अनुसोधकर्ताहरूका अनुसार, यसले यसको प्रयोगको निगरानीलाई अझ कठिन बनाउँछ, किनकि डाटा र अनुरोधहरू आवश्यक परेमा बाह्य सर्भरहरूबाट हुँदैनन् जसलाई कम्पनीहरू वा प्राधिकरणले हेर्न सक्छन्।

प्रतिवेदनले यो विकासलाई अघिल्ला वर्षहरूसँग तुलना गर्दा महत्त्वपूर्ण परिवर्तनको रूपमा हेर्छ, जब उन्नत AI मोडेलहरूलाई स्थानीय रूपमा चलाउन आवश्यक कम्प्युटिङ क्षमता सीमित थियो र केही प्रयोगकर्ताहरूमा मात्र उपलब्ध थियो।

अनुसोधकर्ताहरूले अनुमान गरेका छन् कि करिब ८७ प्रतिशत घरहरूले आफ्नो हालका उपकरणहरू प्रयोग गरेर केही AI प्रणालीहरू स्थानीय रूपमा चलाउन सक्ने क्षमता राख्छन्, जसको अर्थ यी प्रविधिहरूमा पहुँच अब ठूला संस्थाहरू वा विशेषज्ञ प्रयोगशालाहरूमा मात्र सीमित छैन।

ब्रिटिश विषाणुविद् र रासायनिक युद्धका विशेषज्ञ प्रोफेसर एलिस्टर हाइले भने, AI ले खतरनाक पदार्थहरूसँग काम गर्न आवश्यक प्राविधिक विशेषज्ञताको स्तरलाई कम गरेको छ, जबकि त्यसका लागि आवश्यक ज्ञानले गैर-विशेषज्ञहरूका लागि अवरोधको काम गर्थ्यो।

हाइले थपे कि क्लाउड प्रयोगशालाहरू र AI उपकरणहरूको विकासले आवश्यक ज्ञान र विशेषज्ञताको केही भागलाई डिजिटल प्रणालीहरूमा असाइन गर्न सक्छ।

एक AI मोडेलद्वारा प्रदान गरिएका उत्तरहरू अध्ययन गरेपछि, हाइले अनुसोधकर्ताहरूलाई भने कि मोडेलले प्रदान गरेको जानकारी एउटा “रेसिपी” जस्तै छ, र यो प्रयोगशालाका विद्यार्थीहरूसँग भएको ज्ञानको स्तरसँग नजिक छ।

तथापि, प्रतिवेदनले जोड दिन्छ कि रासायनिक वा जैविक हतियारहरू प्रयोग गरेर आतंकवादी हमला गर्ने जोखिम अझै पनि कम छ, किनभने यी हतियारहरू उत्पादन र सञ्चालनसँग सम्बन्धित ठूला प्राविधिक र व्यावहारिक अवरोधहरू छन्।

तर अनुसन्धानकर्ताहरूले चेतावनी दिँदै भनेका छन् कि कृत्रिम बुद्धिमत्ताको विकासले भविष्यमा यस्ता जोखिमहरूको प्रकृतिलाई परिवर्तन गर्न सक्छ, किनभने यसले अघिल्लो समयमा विशेष वैज्ञानिक तालिम आवश्यक पर्ने ज्ञानसम्म पहुँचलाई सजिलो बनाउँदैछ, जसले सरकारहरू र प्रविधि कम्पनीहरूका लागि यी मोडेलहरूको दुरुपयोग रोक्न नयाँ चुनौतीहरू सिर्जना गरेको छ।