एनभियाले एआई एजेन्टहरूको सीमा नाघ्दा तिनीहरूलाई घेर्ने प्लेटफर्म सार्वजनिक गर्यो

नभिडियाले एआई एजेन्टहरूमा सिधै प्रतिबन्ध लगाउन र तिनीहरूले आफूलाई दिइएको अधिकारको सीमा नाघ्ने प्रयास गर्नामा छिटो अलग्गै राख्न लक्षित एउटा खुला सुरक्षा प्लेटफर्म सार्वजनिक गरेको छ, जबकि संवेदनशील कार्यहरू स्वतन्त्र रूपमा सम्पादन गर्न यस्ता प्रणालीहरूको प्रयोग बढ्दो छ।

यो प्लेटफर्म ‘एनभिडिया ओपन एजेन्ट सेफ्टी प्लेटफर्म’ नामले परिचित छ र यसमा मुख्यतया ‘ओपन शेल’ नामको ओपन-सोर्स सफ्टवेयर र ‘सेन्ट्री’ नामको रेफरेन्स प्रणाली समावेश छन्। ‘ओपन शेल’ ले एजेन्टका क्रियाकलापहरूको निगरानी गर्दछ र चलिरहेको अवस्थामा नीतिहरू लागू गर्दछ, जबकि ‘सेन्ट्री’ ले हार्डवेयर स्तरमा स्वतन्त्र निगरानी गर्दछ र एजेन्टले निर्धारित सीमा नाघ्नामा केही सेकेन्डको अंशमा नै त्यसलाई अलग्गै राख्न सक्छ।

नभिडियाका अनुसार, यो प्रणाली विकास गर्न वा यसको प्रयोग गर्न १०० भन्दा बढी संस्थाहरू संलग्न छन्, जसमा एन्थ्रोपिक, माइक्रोसफ्ट, सेल्सफोर्स, जेपी मोर्गन चेस, ह्युगिङ फेस र स्पेस.एक्स.ए.आई. समावेश छन्। ‘ओपन शेल’ लाई आर्म र इन्टेल जस्ता अन्य कम्पनीहरूको कम्प्युटिङ प्लेटफर्महरूसँग पनि विस्तार गरी प्रयोग गर्न सकिन्छ।

कम्पनीको मान्यता अनुसार, एजेन्टहरूको सुरक्षाका लागि सफ्टवेयर र हार्डवेयर दुवैमा नियन्त्रणहरू हुनुपर्छ, र केवल एप्लिकेसन भित्र राखिएका प्रतिबन्धहरूमा मात्र भर पर्नु हुँदैन।