एन्थ्रोपिक: कृत्रिम बुद्धिमत्ता के मॉडल्स जल्द ही स्वयं को प्रतिलिपि बनाना शुरू कर सकते हैं

एन्थ्रोपिक कम्पनीले भनेको छ कि उनका परीक्षणहरूले देखाएको छ कि साना कृत्रिम बुद्धिमत्ता मोडेलहरू केही महिनाभित्र व्यावसायिक ‘इन्टरनेट अफ थिंग्स’ (IoT) उपकरणहरू, जस्तै स्मार्ट ओभनहरू र अज्ञात ब्रान्डका एन्ड्रोइड-आधारित टेलिभिजनहरूमा आफैंलाई प्रतिलिपि गर्न सक्षम हुन सक्छन्।

उनका परीक्षणहरूमा, एन्थ्रोपिक कम्पनीले कृत्रिम बुद्धिमत्ता मोडेलहरूले सुरक्षा कमजोरी भएका उपकरणहरू पहिचान गर्न सक्छन् कि सक्दैनन् र ती उपकरणहरूमा आफैंलाई प्रतिलिपि गरी मानवीय हस्तक्षेप बिना नै फैलन सक्छन् कि सक्दैनन् भन्ने खोजेको थियो।

कम्पनीले पाएको छ कि ३० अर्ब भन्दा कम प्यारामिटर भएका साना मोडेलहरूले प्रतिलिपि प्रक्रियाका लागि आवश्यक धेरै चरणहरू पूरा गर्न सक्छन्। तथापि, कम्पनीले ध्यान दिएको छ कि यी कृत्रिम बुद्धिमत्ता मोडेलहरूले सुरुदेखि अन्त्यसम्मको सम्पूर्ण श्रृंखला पूरा गर्न कठिनाइ भोगेका छन्।

सरलीकृत परीक्षणहरूमा, जहाँ केही सुरक्षा उपायहरू हटाइएको थियो, एन्थ्रोपिकले पाएको छ कि GLM-5.2 मोडेल र यसभन्दा शक्तिशाली मोडेलहरूले सुरुदेखि अन्त्यसम्म पूर्ण रूपमा आफैंलाई प्रतिलिपि गर्न सक्छन्।

एन्थ्रोपिकले चेतावनी दिएको छ कि आफैंले आफैंलाई प्रतिलिपि गर्ने मोडेलहरूलाई रोक्न गाह्रो हुनेछ किनभने तिनीहरूलाई अक्षम पार्ने केन्द्रीकृत नियन्त्रण बिन्दु हुँदैन, र परम्परागत खराब सफ्टवेयर (malware) भन्दा फरक रूपमा, तिनीहरूले अचिनीत उपकरणहरूलाई आफैंले पहिचान गर्न सक्छन् र डाटा सेन्टरका प्रोसेसरहरूलाई लक्ष्य गर्न सक्छन्।

कम्पनीले आफ्नो अनुसन्धानमा एन्ड्रोइड-आधारित टेलिभिजनहरू, स्मार्ट गृह उपकरणहरू, र अन्य इन्टरनेट-सम्बन्धित उपकरणहरू जस्ता IoT उपकरणहरूमा केन्द्रित गरेको छ, किनभने यी उपकरणहरू सामान्यतया पर्याप्त रूपमा सुरक्षित हुँदैनन्।

कृत्रिम बुद्धिमत्ता क्षेत्रमा अग्रणी कम्पनीले चेतावनी दिएको छ कि यदि साना मोडेलहरूले अविश्वसनीय गतिमा सुधार जारी राखे भने, यो वर्षको अन्त्यसम्ममा तिनीहरूले आफैंलाई स्वतन्त्र रूपमा प्रतिलिपि गर्न सक्नेछन्, र त्यसपछि छोटो समयभित्र तौलमा आधारित साना प्रतिलिपि मोडेलहरूले पनि त्यस्तै गर्नेछन्।

'एन्थ्रोपिक' ले पनि संकेत गरेको छ कि यी स्वतन्त्र कृत्रिम बुद्धिमत्ता प्रणालीहरूले आफैंलाई ढिलो गतिमा प्रतिलिपि गर्नेछन् र व्यापक रूपमा उपलब्ध कम्प्युटिङ स्रोतहरूमा निर्भर हुनेछन्, जसमा पर्याप्त सुरक्षाको अभाव छ। साथै, यी एजेन्टहरूको प्रसारलाई अझ कठिन बनाउन प्रणालीहरूलाई बलियो बनाउनुपर्ने आवश्यकता रहेको उल्लेख गरिएको छ।