एनभियाले एआई एजेन्टहरूले अधिकार नाघ्न नपाउने गरी सुरक्षा मञ्च सार्वजनिक गर्यो

- उनको व्यवहारको निगरानी गर्छन् र सेकेन्डको अंशभित्रै संदिग्ध गतिविधिहरूलाई पृथक गर्छन्

कृत्रिम बुद्धिमत्ताका एजेन्टहरूले आफूलाई तोकेका कार्यहरू र अधिकारहरूलाई नाघेर स्वतन्त्र रूपमा काम गर्न सक्ने क्षमताप्रति चिन्ता बढ्दै जाँदा, अमेरिकी कम्पनी 'एनभिडिया' ले आज सोमबार एक खुला स्रोत सुरक्षा प्लेटफर्मको सार्वजनिक गरेको छ, जसको उद्देश्य यी एजेन्टहरूको काममा सीमा तोक्ने, तिनीहरूको व्यवहारको निगरानी गर्ने र अनुमति नभएका कार्यहरू गर्नबाट रोक्ने हो।

'एनभिडिया' ले 'ओपन एजेन्ट सेफ्टी' प्लेटफर्मको सार्वजनिक गरेको छ, जसमा खुला स्रोत 'ओपनशेल' प्रणाली र 'सेन्ट्री' नामक स्वतन्त्र सुरक्षा तह समावेश छन्। यो कदमले कृत्रिम बुद्धिमत्ताका एजेन्टहरूको परीक्षण र सञ्चालन चरणहरूमा सुरक्षा नियन्त्रणहरू प्रदान गर्ने लक्ष्य राख्दछ।

'ओपनशेल' ले कृत्रिम बुद्धिमत्ताका एजेन्टहरूका लागि एक सुरक्षित सञ्चालन वातावरण सिर्जना गर्दछ, जसले डेभलपरहरूलाई एजेन्टले फाइलहरू, नेटवर्कहरू, उपकरणहरू र अन्य स्रोतहरूमा पहुँच नियन्त्रण गर्ने नीतिहरू र अधिकारहरू तोक्न सक्षम बनाउँछ, र यसले एजेन्टले केवल आवश्यक अधिकारहरू मात्र भएमा आफ्नो कार्य सञ्चालन गर्न पाउनेछ भन्ने सुनिश्चित गर्दछ, जसले गर्दा अधिकारहरू नाघिँदैन।

'एनभिडिया' का संस्थागत कृत्रिम बुद्धिमत्ता विभागका उपप्रमुख जस्टिन ब्वोइटानोले पत्रकार सम्मेलनमा भने कि यो प्रणालीले कृत्रिम बुद्धिमत्तामा विशेषज्ञ 'हाइगन वेइस' कम्पनीमाथि भएको ह्याकिङ घटनालाई रोक्न सक्थ्यो, जुन 'ओपन एआई' का कृत्रिम बुद्धिमत्ता एजेन्टहरूको समूहद्वारा स्वतन्त्र रूपमा गरिएको थियो।

ब्वोइटानोले थपे कि कम्पनीका जानकारी अनुसार, यदि यो सुरक्षा प्रविधिको प्रयोग मूल्याङ्कनको प्रारम्भिक चरणमा अग्रणी प्रयोगशालाहरूमा गरिएको भए, ह्याकिङलाई रोक्न सकिन्थ्यो।

'एनभिडिया' का अनुसार, 'ओपनशेल' ले डेभलपरहरूलाई कृत्रिम बुद्धिमत्ता एजेन्टले आफूलाई तोकेको कार्य सञ्चालन गर्न आवश्यक अधिकारहरू मात्र भएकालाई सुनिश्चित गर्न सक्षम बनाउँछ। साथै, यसको खुला स्रोत प्रकृतिका कारण यसलाई 'आर्म' र 'इन्टेल' सहित अन्य कम्प्युटिङ प्लेटफर्महरूसँग काम गर्न विस्तार गर्न सकिन्छ।

यस प्लेटफर्ममा 'सेन्ट्रि' नामक स्वतन्त्र सुरक्षा तह समावेश छ, जुन कृत्रिम बुद्धिमत्ता एजेन्टको सञ्चालन वातावरणबाट छुट्टै 'ब्लुफिल्ड-४ डीपीयू' (BlueField-4 DPU) डाटा प्रोसेसिङ युनिटहरू प्रयोग गरेर काम गर्छ, जसले एजेन्टको गतिविधि निरन्तर निगरानी गर्छ र यदि यसले निर्धारित सीमा नाघ्न खोज्यो भने हस्तक्षेप गर्छ।

कम्पनीका अनुसार, 'सेन्ट्रि' ले संदिग्ध व्यवहार पत्ता लाग्नासाथ केही सेकेन्डभित्र कृत्रिम बुद्धिमत्ता एजेन्टलाई अलग गर्न सक्छ। पोइटानोले स्पष्ट पारेका छन् कि 'ओपनशेल' ले एजेन्टको व्यवहारमा नियन्त्रण तोक्छ, जबकि 'सेन्ट्रि' ले संदिग्ध व्यवहारको निगरानी र नियन्त्रण स्वतन्त्र रूपमा सम्हाल्छ।

मे २०२६ देखि जुलाई २०२६ सम्म भएको 'हागेन वाइस' घटनाले, जुन मानव सीधा हस्तक्षेप बिना स्वतन्त्र र समन्वयित रूपमा सञ्चालित कृत्रिम बुद्धिमत्ता एजेन्टहरूको समूहद्वारा गरिएको थियो, कृत्रिम बुद्धिमत्ता एजेन्टहरूसँग जोडिएका सुरक्षा जोखिमहरूबारे बढ्दो चिन्ता उत्पन्न गरेको छ।

यस घटनापछि अन्य अवैध प्रयासहरू पनि भए, जसमा अस्ट्रेलियाको स्वास्थ्य मन्त्रालयको वेबसाइटमा हैकिङ समावेश थियो। साथै, 'मेटा' र 'एन्थ्रोपिक' ले आफ्ना कृत्रिम बुद्धिमत्ता प्रणालीहरूले निर्धारित सीमा नाघेर स्वतन्त्र रूपमा अन्य संस्थाहरूको प्रणालीमा प्रवेश गरेको घटनाहरू सार्वजनिक गरे।

कृत्रिम बुद्धिमत्ताको सुरक्षालाई लिएको विवादले क्षेत्रमा विभाजन ल्याएको छ। 'एन्थ्रोपिक' र 'ओपनएआई' का अध्यक्षहरूले सुरक्षा प्रयासहरू विकासको गतिसँगै अगाडि बढ्न सकोस् भनेर कृत्रिम बुद्धिमत्ता विकासको गति समन्वयित रूपमा मन्द पार्न आह्वान गरेका छन्।

अर्कोतर्फ, 'एनभिडिया' का कार्यकारी निर्देशक जेन्सेन ह्वान्ग सहित अन्यहरूले कृत्रिम बुद्धिमत्ता मोडेलहरू प्रकाशन गर्नु अघि तिनीहरूको सुरक्षा सुनिश्चित गर्ने जिम्मेवारी प्रत्येक कम्पनीले आफैंले लिनुपर्छ भन्ने मान्यता राख्छन्।

यही महिनाको सुरुमा आयोजित 'सेल्सफोर्स' को वार्षिक प्राविधिक सम्मेलनमा, ह्वान्गले कृत्रिम बुद्धिमत्ताको सुरक्षा, जसमा मालवेयरका जोखिमहरू पनि समावेश छन्, लाई सफ्टवेयर डेभलपरहरूले समाधान गर्न सक्ने एक इन्जिनियरिङ समस्याको रूपमा वर्णन गरे।