एनभिडियाले कृत्रिम बुद्धिमत्ता प्रोग्रामहरू नियन्त्रण बाहिर नजाने गरी नयाँ सुरक्षा प्लेटफर्म सार्वजनिक गरेको छ

वाशिंगटन, २८ सेप्टेम्बर (कुना) – अमेरिकी प्रमुख प्रविधि कम्पनी ‘एनभिडिया’ले आज सोमबार एउटा नयाँ सुरक्षा प्लेटफर्मको सार्वजनिक गरेको छ, जसले कृत्रिम बुद्धिमत्ता (एआई) प्रोग्रामहरू नियन्त्रणबाट बाहिर निस्कनबाट रोक्न सक्छ। यो कदम एआई सफ्टवेयर, विशेष गरी स्व-विकासित मोडेलहरूको सुरक्षा सम्बन्धी गहिरो चिन्ताका बीच आएको हो। चिप निर्माता कम्पनीले सार्वजनिक गरेको ‘ओपन सोर्स सफ्टवेयर प्लेटफर्म’ ले सफ्टवेयरहरूका लागि सीमा तोक्ने ओपन सोर्स सफ्टवेयरहरू समावेश गर्दछ। यो कदम एआईका प्रमुख कम्पनीहरूले आफ्ना मोडेलहरू नियन्त्रणबाट बाहिर निस्किएका र अन्य संस्थाहरूको प्रणाली ह्याक गरेका भन्ने धेरै घटनाहरू पछि उठाइएको हो।

एनभिडियाको कर्पोरेट एआई विभागका उपप्रमुख जस्टिन पोइटानोले पत्रकार सम्मेलनमा भने, “नयाँ प्रणाली, जसलाई ‘ओपन शेल’ भनिन्छ, हालै भएको एउटा घटनालाई रोक्न सक्थ्यो, जहाँ ‘ओपन एआई’ का एजेन्टहरूको झुण्डले स्वतन्त्र रूपमा एआईमा विशेषज्ञता राख्ने ‘हागन वेइस’ कम्पनीलाई ह्याक गरेको थियो।” पोइटानोले थपे, “हाम्रो जानकारी अनुसार, यदि यो नयाँ सुरक्षा प्लेटफर्म मोडेल मूल्याङ्कन गर्ने अग्रणी प्रयोगशालाहरूमा सुरुमै प्रयोग गरिएको भए, ह्याकिङलाई रोक्न सक्थ्यो।”

‘ओपन शेल’ प्रोग्रामले डेभलपरहरूलाई “एजेन्टसँग आफ्नो कार्य गर्नका लागि आवश्यक अधिकार मात्र छन् भन्ने आधिकारिक रूपमा पुष्टि गर्न” सक्षम बनाउँछ। यो ओपन सोर्स भएकोले, यसलाई ‘आरएम’ (ARM) र ‘इन्टेल’ (Intel) सहित प्रतिस्पर्धी कम्प्युटिङ प्लेटफर्महरूमा पनि विस्तार गर्न सकिन्छ।

यस प्लेटफर्ममा ‘सेन्ट्री’ नामक एउटा छुट्टै सुरक्षा तह पनि समावेश छ, जुन एआई एजेन्टको गतिविधि निरन्तर निगरानी गर्ने चिपमा चल्छ। कम्पनीका अनुसार, यदि एजेन्टले आफ्नो लक्ष्य नाघ्न खोज्यो भने यो तहले “तुरुन्तै हस्तक्षेप” गर्न सक्छ र कुनै पनि संदिग्ध क्लाइन्टलाई सेकेन्डको अंशमा अलग गर्न सक्छ। पोइटानोले पुष्टि गरे कि ‘ओपन शेल’ ले क्लाइन्टको व्यवहार नियन्त्रण गर्छ, र ‘सेन्ट्री’ ले स्वतन्त्र रूपमा संदिग्ध व्यवहारको निगरानी र नियन्त्रण गर्छ।

‘हागन वेइस’ को घटनाले, जुन पूर्ण रूपमा स्वतन्त्र र समन्वयित साइबर आक्रमणको परिणाम थियो जसमा मानवीय हस्तक्षेप बिना एआई एजेन्टहरूको झुण्डले काम गरेको थियो र जुन २०२६ को मे देखि जुलाई सम्म चलेको थियो, एआई सुरक्षा सम्बन्धी चिन्ताहरू उत्पन्न गरेको छ। यसपछि ‘ओपन एआई’ मोडेलहरू प्रयोग गरेर अस्ट्रेलियाको स्वास्थ्य मन्त्रालयको वेबसाइट ह्याक जस्ता अन्य अवैध कार्यहरू पनि भएका छन्। साथै, ‘मेटा’ र ‘एन्थ्रोपिक’ ले पनि आफ्ना एआई प्रणालीहरू अन्य संस्थाहरूद्वारा स्वतन्त्र रूपमा ह्याक भएको खुलासा गरेका छन्।

एआई सुरक्षाको विवादले क्षेत्रमा विभाजन ल्याएको छ, जहाँ ‘एन्थ्रोपिक’ र ‘ओपन एआई’ का अध्यक्षहरूले सुरक्षा प्रयासहरू पछाडि नपुग्न एआई विकासको गति समन्वयित रूपमा मन्द बनाउन आह्वान गरेका छन्। अर्कोतर्फ, ‘एनभिडिया’ का कार्यकारी निर्देशक जेन्सेन ह्वाङ सहित अन्यहरूले एआई मोडेलहरू बजारमा ल्याउनु अघि तिनीहरूको सुरक्षा सुनिश्चित गर्ने जिम्मेवारी प्रत्येक कम्पनीमाथि नै पर्ने मान्दछन्।

यही महिनाको सुरुमा आयोजित वार्षिक ‘सेल्सफोर्स’ प्रविधि सम्मेलनमा ह्वाङले एआई सुरक्षा, जसमा खराब सफ्टवेयर (मालवेयर) को जोखिम पनि समावेश छ, लाई एउटा इन्जिनियरिङ समस्याको रूपमा वर्णन गरे, जसलाई सफ्टवेयर डेभलपरहरूले समाधान गर्न सक्छन्। (समाप्त) र.स.र./न.स.ए.