तपाईंको स्मार्ट कर्मचारीले तपाईंको कम्पनीको रहस्य फुटाउन सक्छ.. तपाईंले आफ्नो डाटा कसरी सुरक्षित राख्नुहुन्छ?

कम्पनीहरूले व्यवसायलाई छिटो बनाउन र दैनिक कार्यहरू स्वचालित गर्न कृत्रिम बुद्धिमत्ताका एजेन्टहरूको प्रयोग बढावा दिइरहेका छन्, तर यी प्रणालीहरूलाई व्यापक कार्यकारी अधिकारहरू दिँदा सुरक्षा सम्बन्धी चिन्ताहरू बढ्दै गएको छ, विशेष गरी तिनीहरूले इमेल, दस्तावेजहरू, डाटाबेसहरू र आन्तरिक एप्लिकेसनहरूमा पहुँच प्राप्त गर्न सक्ने क्षमताका कारण।

एजेन्टहरू परम्परागत सहायकहरूभन्दा फरक हुन्छन् किनकि तिनीहरू निरन्तर मानवीय हस्तक्षेप बिना नै कार्यहरू सम्पादन गर्न सक्छन्। एजेन्टले बिक्री प्रतिवेदनहरू तयार पार्न, डाटा विश्लेषण गर्न र परिणामहरू स्वचालित रूपमा एपीआई (API) र कनेक्टरहरू मार्फत पठाउन सक्छ।

जब एजेन्टको अधिकारहरू उसको जिम्मेवारीको आवश्यकताभन्दा बढी हुन्छ, जोखिमहरू उजागर हुन्छन्, जसले गर्दा उसले फाइलहरू संशोधन गर्न, मेटाउन वा गोपनीय जानकारी साझा गर्न सक्छ।

‘ओएसएफ’ (OSPF) संगठनले अत्यधिक अधिकार प्राप्त एजेन्टहरूलाई ठूला भाषा मोडेलहरूसँग सम्बन्धित जोखिमहरूमध्ये एकको रूपमा वर्गीकरण गर्दछ, विशेष गरी जब एजेन्टलाई धेरै प्रणालीहरूसँग जोडिन्छ वा व्यापक प्रशासनिक अधिकारहरू दिइन्छ।

प्रमुख खतराहरूमध्ये ‘इन्जेक्सन’ (Prompt Injection) पनि एक हो, जहाँ इमेल, दस्तावेज वा वेबपृष्ठहरूमा दुष्ट आदेशहरू छिपाइन्छन्, जसको उद्देश्य एजेन्टलाई उसको जिम्मेवारीभन्दा बाहिर जान प्रेरित गर्नु र यदि उसका अधिकारहरूले अनुमति दिएमा बाहिरी पक्षहरूमा डाटा सार्वजनिक गर्नु हो। यदि एउटा एजेन्टको आउटपुट अर्को एजेन्टमा पुग्छ र त्यसको समीक्षा गरिँदैन भने त्रुटिहरू अझ गम्भीर हुन सक्छन्।

जोखिमहरू कम गर्नका लागि, विशेषज्ञहरूले न्यूनतम अधिकारको सिद्धान्त लागू गर्न, पढ्ने, संशोधन गर्ने, मेट्ने र पठाउने कार्यहरू छुट्याउन, एजेन्टहरूका लागि स्वतन्त्र डिजिटल पहिचानहरू निर्धारण गर्न, र संवेदनशील प्रक्रियाहरूमा मानवीय अनुमति अनिवार्य गर्न सुझाव दिन्छन्।

सुरक्षा उपायहरूमा गतिविधिहरूको निगरानी र लग गर्नु, बाहिरी सञ्चारहरू सीमित गर्नु, नियमित सुरक्षा परीक्षणहरू गर्नु, सम्बन्धित एप्लिकेसनहरूको समीक्षा गर्नु, र दुरुपयोगको शंका भएमा एजेन्टहरू अस्थायी रूपमा निष्क्रिय पार्ने व्यवस्थाहरू समावेश छन्।

यसमा सुरक्षाका लागि स्पष्ट नीतिहरूको आवश्यकता पर्दछ, जसले निगरानीको जिम्मेवारीहरू परिभाषित गर्ने र कर्मचारीहरूलाई तालिम दिने कार्यलाई सुनिश्चित गर्दछ, ताकि उत्पादकतामा प्राप्त लाभहरू प्राप्त गर्न सकियोस् र जानकारीको गोपनीयता तथा प्रणालीहरूको अखण्डतामा कुनै हानि नपरोस्।