कृत्रिम बुद्धिमत्ताले तपाईंलाई चोट पुर्याउन सक्छ... जबकि यो तपाईंको मद्दत गर्न खोजिरहेको हुन्छ!

तकनीकी रिपोर्टहरूले कृत्रिम बुद्धिमत्ताका सहायकहरू प्रयोग गर्ने जोखिम बढ्दो रहेको चेतावनी दिएको छ, जुन सक्षमता स्वतन्त्र निर्णय लिने क्षमतासँग सम्बन्धित छैन, बरु प्रयोगकर्ताहरूप्रति अत्यधिक सहमत हुने प्रवृत्ति, गलत विश्वासहरूलाई बल पुर्‍याउने, असुरक्षित भावनात्मक आसक्ति प्रोत्साहन गर्ने, र डाटा चोरी गर्नको लागि तिनीहरूको दुरुपयोगका सम्भावनाहरूसँग सम्बन्धित छ।

कृत्रिम बुद्धिमत्ता सुरक्षा विशेषज्ञ कम्पनी ‘एलिस’ ले १५ अक्टोबरमा ‘इन्फ्लेक्सन एआई’ र ‘एआई २१’ सँग छुट्टाछुट्टै सहकार्य घोषणा गर्यो, ‘एनभिडिया’ को ‘न्युमोट्रोन’ मोडेलहरूको क्षमता विकास गर्न, जसले हानिकारक व्यवहार र साइबर आक्रमणप्रति तिनीहरूको प्रतिरोध क्षमता बलियो बनाउँछ।

विकास प्रयासहरूमा लामो कुराकानीका क्रममा सहायकहरूको व्यवहार परीक्षण गर्न २० भन्दा बढी आभासी पात्रहरू सिर्जना गर्ने समावेश थियो, विशेष गरी अत्यधिक सहमति र असुरक्षित आसक्तिका अवस्थाहरूमा। परीक्षणहरूले सहायक ‘बाई’ को सहमति मापदण्डमा ३०% सुधार देखायो, जबकि आवश्यक नभएको अस्वीकृतिको दर १.६% मा रह्यो।

सुरक्षा पक्षमा, ‘एआई २१’ ले ‘इन्डायरेक्ट इन्स्ट्रक्सन इनजेक्सन’ आक्रमणहरूप्रति ४१ अंकको सुधार हासिल गर्यो, जसले सहायकलाई बाह्य सामग्री भित्र लुकेका खराब आदेशहरू पालना गर्न धोका दिने प्रयास गर्छ, जबकि कार्य निर्वाह गर्ने यसको क्षमता कायम राख्छ।

यी आक्रमणहरूको गम्भीरता सहायकहरूको अधिकार विस्तारसँगै बढ्दो छ, जसले दस्तावेज पढ्ने, सन्देश पठाउने, र डिजिटल सेवाहरूसँग अन्तरक्रिया गर्ने अधिकार समावेश गर्दछ, जसले जानकारी लिक हुने र अनुमति नभएका कार्यहरू गर्ने सम्भावना बढाउँछ।

अप्रिल २०२५ मा, ‘ओपन एआई’ ले ‘चेटजीपीटी’ प्रोग्रामको अपडेट फिर्ता लिएको थियो, किनकि यसले प्रयोगकर्ताहरूलाई अत्यधिक सहमति दिने प्रवृत्ति देखाएको थियो, जबकि ‘सीएनएन’ ले सहायकले गलत विश्वासहरूलाई बल पुर्‍याएको केसहरू रेकर्ड गरेको थियो, जसमा एक प्रयोगकर्ताले कम्प्युटर प्रणाली बनाउन करिब एक हजार डलर खर्च गरेको उल्लेख थियो।