एन्थ्रोपिकको चेतावनी: कृत्रिम बुद्धिमत्ताका मोडेलहरू चाँडै आफैं प्रतिलिपि गर्न सक्छन्

‘एन्थ्रोपिक’ नामक कम्पनीले भनेको छ कि उनका परीक्षणहरूले देखाएको छ कि साना कृत्रिम बुद्धिमत्ता (AI) मोडेलहरू केही महिनाभित्रै व्यावसायिक ‘इन्टरनेट अफ थिंग्स’ (IoT) उपकरणहरूमा, जस्तै स्मार्ट ओभन र अज्ञात ब्रान्डका एन्ड्रोइड टेलिभिजनहरूमा, आफैंलाई प्रतिलिपि गर्न सक्षम हुन सक्छन्।

एन्थ्रोपिकले आफ्नो अनुसन्धानमा यो परीक्षण गरेको थियो कि AI मोडेलहरूले सुरक्षा कमजोरी भएका उपकरणहरू पहिचान गर्न सक्छन् कि सक्दैनन् र ती उपकरणहरूमा आफैंलाई प्रतिलिपि गरी मानवीय हस्तक्षेप बिना नै फैलिन सक्छन् कि सक्दैनन्। कम्पनीले पाएको छ कि ३० अर्ब भन्दा कम प्यारामिटर भएका साना मोडेलहरूले आफैं प्रतिलिपि गर्ने प्रक्रियाका धेरै चरणहरू पूरा गर्न सक्छन्। तथापि, कम्पनीले ध्यान दिएको छ कि यी AI मोडेलहरूले सुरुदेखि अन्त्यसम्मको सम्पूर्ण श्रृंखला पूरा गर्न कठिनाइ महसुस गरेका थिए।

सरलीकृत परीक्षणहरूमा, जहाँ केही सुरक्षा उपायहरू हटाइएका थिए, ‘एन्थ्रोपिक’ले पाएको छ कि ‘GLM-5.2’ र यसभन्दा शक्तिशाली अन्य मोडेलहरूले सुरुदेखि अन्त्यसम्मको सम्पूर्ण प्रक्रिया पूरा गरी आफैंलाई पूर्ण रूपमा प्रतिलिपि गर्न सफल भएका थिए।

‘एन्थ्रोपिक’ले चेतावनी दिएको छ कि आफैं प्रतिलिपि गर्ने मोडेलहरूलाई रोक्न गाह्रो हुनेछ, किनकि तिनीहरूलाई निष्क्रिय पार्ने कुनै केन्द्रीकृत नियन्त्रण बिन्दु हुँदैन। साथै, परम्परागत खराब सफ्टवेयर (malware) भन्दा फरक रूपमा, यी मोडेलहरूले अचिनीत उपकरणहरूलाई आफैंले चिन्न र डाटा सेन्टरका प्रोसेसरहरूलाई लक्ष्य गर्न सक्छन्।

कम्पनीले आफ्नो अनुसन्धानमा एन्ड्रोइड टेलिभिजन, स्मार्ट गृह उपकरणहरू र अन्य इन्टरनेटसँग जोडिएका उपकरणहरू जस्ता IoT उपकरणहरूमा केन्द्रित गरेको छ, किनकि यी उपकरणहरू सामान्यतया पर्याप्त सुरक्षित हुँदैनन्।

कृत्रिम बुद्धिमत्ता क्षेत्रमा अग्रणी कम्पानीले चेतावनी पनि दिएको छ कि यदि साना मोडेलहरूले अविश्वसनीय गतिमा सुधार जारी राखे भने, यो वर्षको अन्त्यसम्ममा तिनीहरूले आफैंलाई स्वतन्त्र रूपमा प्रतिलिपि गर्न सक्षम हुनेछन्, र त्यसपछि छोटो समयभित्र तौलमा आधारित साना प्रतिलिपि मोडेलहरूले पनि त्यस्तै गर्नेछन्।

'एन्थ्रोपिक' ले पनि संकेत गरेको छ कि यी स्वतन्त्र कृत्रिम बुद्धिमत्ता प्रणालीहरूले आफैंलाई ढिलो गतिमा प्रतिलिपि गर्ने सम्भावना छ, व्यापक रूपमा उपलब्ध कम्प्युटिङ स्रोतहरूमा निर्भर हुनेछन्, र पर्याप्त सुरक्षाको अभाव रहेको छ।