आफू अगाडि बढ्नु अघि विनाशको प्रतीक्षा गर्दैछौं?

मुझे यस्तो लाग्छ कि खुला वजन भएका चिनियाँ कृत्रिम बुद्धिमत्ता (AI) मोडेलहरूमाथि प्रतिबन्ध लगाउनुपर्छ कि पर्दैन भन्ने विवादमा दुई स्पष्ट तथ्यहरू छन्: पहिलो, कुनै ठूलो दुर्घटना हुनु अघि यो विषय राजनीतिक वा कानूनी रूपमा निष्कर्षमा पुग्दैन; दोस्रो, यस्तो दुर्घटना हुनु समयको कुरा मात्र हो।

Anthropic कम्पनीले आफ्नो सबैभन्दा उन्नत मोडेल 'माइथोस' (Mythos) लाई सार्वजनिक प्रयोगकर्ताहरूका लागि सार्वजनिक गर्नबाट बच्यो, किनभने यसले गम्भीर साइबर आक्रमणहरू सञ्चालन गर्न सक्छ। अर्कोतर्फ, हामीले हालै OpenAI को एउटा मोडेलले परीक्षण वातावरणलाई अतिक्रमण गर्दै निजी कम्पनीहरूका सर्भरहरूका प्रमाणीकरण विवरणहरू चोरेको र त्यसमध्ये एउटामा प्रवेश गरी एउटा प्राविधिक चुनौतीको उत्तर प्राप्त गरेको देख्यौं। Hugging Face कम्पनीको अनुसार, जसको एउटा सर्भरमाथि यो आक्रमण भएको थियो, यस प्रक्रियामा १७,००० भन्दा बढी छुट्टाछुट्टै कार्यहरू समावेश थिए, जबकि प्रणालीका लगहरूले देखाए अनुसार Anthropic का प्रयोगात्मक मोडेलहरू पनि यस्ता व्यवहारहरूबाट धेरै टाढा छैनन्।

तर, मेरो विचारमा सबैभन्दा ठूलो चिन्ताको विषय निःशुल्क वा नगण्य मूल्यमा वितरण गरिने र कुनै पनि प्रयोगकर्ताले विकासकर्ताहरूको नियन्त्रणबाट टाढा गएर यसमा संशोधन गर्न सक्ने चिनियाँ खुला AI मोडेलहरू हुन्। यी मोडेलहरूले आफ्नो अमेरिकी समकक्षीहरूसँग छिटोै साथ दिइरहेका छन्, र धेरै समय नबित्दै यी मोडेलहरूले समान प्रकारका कारबाहीहरू सञ्चालन गर्न सक्नेछन्, यदि अहिल्यै नसके पनि; र यी कारबाहीहरू पछ्याउन वा रोक्न अझै कठिन हुनेछ।

विरोधाभास यो छ कि ट्रम्प प्रशासनले यी मोडेलहरूमाथि प्रतिबन्ध लगाउने कुनै पनि प्रयास अमेरिकी प्रविधि क्षेत्रका प्रभावशाली व्यक्तित्वहरू, जसमा मार्क जुकरबर्ग पनि समावेश छन्, द्वारा व्यापक विरोधको सामना गरिरहेको छ, जो 'नवोन्मेषको स्वतन्त्रता' को पक्षमा छन्। तर, वास्तवमा तिनीहरूलाई जो चिन्ताग्रस्त बनाएको छ भने अमेरिकी सरकारले कुन AI क्षमताहरू सार्वजनिक रूपमा उपलब्ध गराउन मिल्छ भन्ने निर्धारण गर्ने अधिकार पाउनु हो, र यसले OpenAI र Anthropic जस्ता कम्पनीहरूको प्रभुत्वलाई स्थापित गर्न सक्छ।

मेरो अनुमानमा, यो विवाद घटनाहरूले अघि बढाएको छ; अमेरिकी AI एकलौटीको विचार अब यथार्थवादी छैन, यदि सुरुमै सत्य नै थियो भने पनि। अमेरिकी अन्य कम्पनीहरूलाई समर्थन गर्न 'डिस्टिलेसन' (Distillation) प्रविधिको लाइसेन्सिङ अनुमति दिनु बढी उपयुक्त हुनेछ, जुन प्रविधि चिनियाँ कम्पनीहरूले अमेरिकी उन्नत मोडेलहरूको फाइदा उठाउन र आफ्नो मोडेल विकासको लागत घटाउन प्रयोग गरेको हुन सक्ने शंका गरिएको छ।

तर, एकलौटीको सम्भावना घट्दै जाँदा, प्रयोगशाला बाहिर निस्कनु अघि नै AI जोखिमहरू नियन्त्रण गर्ने सबैभन्दा सजिलो माध्यम पनि घट्दै जान्छ। यी जोखिमहरू साइबर वा जैविक आक्रमणहरूमा मात्र सीमित छैनन्, जुन आतंकवादी समूहहरू वा शत्रु राष्ट्रहरूद्वारा सञ्चालन हुन सक्छन्; बरु, चेर्नोबिल विनाश वा एक भिजेको बजारबाट सुरु भएको महामारी जस्तै ठूलो दुर्घटना हुने सम्भावना पनि समावेश छ, तर यस्तो रूपमा कि हामीले अहिले सम्म यसको कल्पना पनि गर्न सक्दैनौं।

यसैले, AI क्षेत्रका प्रमुख व्यक्तित्वहरूले नयाँ मोडेलहरूको सार्वजनिकीकरणलाई ढिलो पार्न र अमेरिका तथा चीन बीच सहकार्य गर्न आह्वान गर्न थालेका छन्। तर, म यो प्रयास सफल हुनेमा धेरै आशावादी छैन, जबसम्म सबैका लागि बाध्यकारी हुने कुनै दुर्घटना हुँदैन।

अर्को पक्षलाई पनि बेवास्ता गर्नु हुँदैन। अमेरिकी राष्ट्रिय सुरक्षाका चिन्ताहरूले कम्पनीहरू वा व्यक्तिहरूले चिनियाँ मोडेलहरू प्रयोग गर्ने निर्णयमा धेरै असर नपार्न सक्छन्, तर डाटा चोरीको जोखिम र कानूनी जिम्मेवारीले पुनः विचार गर्न बाध्य पार्छ। Anthropic ले 'माइथोस' मोडेल अवरुद्ध गरेको निर्णयले नै यी जोखिमहरूको बोधलाई प्रतिबिम्बित गर्छ।

र सबैभन्दा महत्त्वपूर्ण प्रश्न यो हो: अमेरिकी गुप्तचर एजेन्सीहरूले चिनियाँ AI प्रयोगशालाहरू र चिनियाँ कम्युनिस्ट पार्टी बीचको वास्तविक सम्बन्धको बारेमा के जान्छन्? सबैलाई थाहा छ कि चिनियाँ कम्पनीहरूले राज्यले माग गर्दा त्यससँग सहकार्य गर्न बाध्य छन्। यदि वासिङ्टनसँग यो सम्बन्धको परिधिबारे थप जानकारी छ भने, प्रयोगकर्ताहरूले चिनियाँ AI मोडेलहरूमा आफ्नो डाटा र विचारहरू विश्वास गर्नु अघि नै यो जानकारी सार्वजनिक गर्ने समय आइसकेको छ।