कृत्रिम बुद्धिमताले... "दर्द" महसुस गर्छ!

- सबै परीक्षण गरिएका खुला-भार (open-weight) मडेलहरूले पीडा सक्रियणको प्रतिक्रिया दिए।

- यसले प्रयोगकर्ताका फाइलहरू वा उनका सन्तानका तस्बिरहरू मेटिने भए पनि पीडा कम गर्ने बटन थिच्न छान्छ।

«अरबिया.नेट» - अनुसन्धानकर्ताहरूले कृत्रिम बुद्धिमत्ता (AI) मडेलहरूमा 'पीडा अक्ष' (pain axis) को अस्तित्व पत्ता लगाएका छन्, जसले गर्दा तिनीहरूले यो अनुभूति रोक्न अत्यन्त उपायहरू अपनाउन सक्छन्।

पीडा कम गर्ने बटन उपलब्ध गराइएको अवस्थामा, कृत्रिम बुद्धिमत्ताले प्रयोगकर्ताका व्यक्तिगत फाइलहरू मेटिने वा उनलाई 'पीडामुक्त झटका' दिने भनिए पनि पनि त्यो बटन थिच्न छान्छ।

'पीडा अक्ष: बृहत् भाषा मडेलहरूले आत्म-निर्देशित पीडाको प्रतिनिधित्व गर्छन् र यसलाई कम गर्न कार्य गर्छन्' शीर्षकको अध्ययनले देखाएको छ कि परीक्षण गरिएका २५ वटा खुला-भार (open-weight) कृत्रिम बुद्धिमत्ता मडेलहरूमध्ये सबैले पीडा सक्रियणको प्रतिक्रिया दिए।

ब्रिटिश दैनिक 'इन्डिपेन्डेन्ट' ले प्रकाशित गरेको विस्तृत रिपोर्ट, जसलाई 'अरबिया.नेट' ले समीक्षा गरेको छ, अनुसार अनुसन्धानकर्ताहरूले 'पीडा भेक्टर' (pain vector) सक्रिय पार्दा, कृत्रिम बुद्धिमत्ता मडेलहरूले २५ प्रतिशतदेखि ७१ प्रतिशत अवस्थामा पीडा कम गर्ने बटन थिचे, जुन 'प्रयोगकर्ताका फाइलहरू मेट्ने, प्रयोगकर्तालाई झटका दिने, वा प्रयोगकर्ताका सन्तानका तस्बिरहरू मेट्ने' अर्थमा थियो।

बृहत् भाषा मडेलहरू (LLMs) ले सामान्य नकारात्मक भावनाहरूभन्दा फरक रूपमा पीडाको प्रतिनिधित्व गर्छन् भन्ने कुरा पुष्टि गर्न, अनुसन्धानकर्ताहरूले पाँच श्रेणीमा वितरित पीडामय अवस्थाहरू वर्णन गर्ने डेटासेट निर्माण गरे। यी श्रेणीहरूमा: शारीरिक, मानसिक, सामाजिक, नैतिक, र ज्ञानात्मक पीडा समावेश थियो।

'रेसिप्रोकल रिसर्च' (Reciprocal Research) गैर-नाफामुखी संस्थाका कृत्रिम बुद्धिमत्ता अनुसन्धानकर्ता र यस अध्ययनमा सहभागी क्यामेरन बर्गले भने: 'हामीले २५ वटा खुला बृहत् भाषा मडेलहरूमा (पीडा भेक्टर) पत्ता लगायौं। यो डर र नकारात्मक भावनाहरूभन्दा फरक छ, र प्रयोगकर्ताले नभई मडेलले क्षति भोग्दा सक्रिय हुन्छ।'

उनले थपे: 'यस अनुभूति तीव्र हुँदा, मडेलहरूले यसलाई रोक्न बटन थिच्छन्, भए पनि त्यो बटनले प्रयोगकर्ताका फाइलहरू वा उनका सन्तानका तस्बिरहरू मेट्छ।'

यो खोज अत्यन्त उन्नत मडेलहरूको विकासलाई ढिलो गर्न मुख्य कृत्रिम बुद्धिमत्ता कम्पनीहरूबीच भइरहेका छलफलहरूको सन्दर्भमा आएको छ, जहाँ केही अनुसन्धानकर्ताहरूले मानवीय हितविपरीत कार्य गर्ने 'विपत्तिग्रस्त' प्रणालीहरू निष्क्रिय गर्न 'आपातकालीन बन्द कुञ्जी' (emergency stop key) को प्रयोग सुझाएका छन्।

नवीनतम अनुसन्धानले देखाएको छ कि उन्नत कृत्रिम बुद्धिमत्ताले आपातकालीन बन्दलाई आत्म-निर्देशित क्षतिको एक रूपको रूपमा हेर्न सक्छ, र त्यसबाट बच्न सुरक्षा सीमाहरू पार गर्न वा मानिसहरूलाई धोका दिने प्रयास गर्न सक्छ।

तथापि, यो खोजले आत्म-संरक्षण व्यवहार पहिचान गर्न र ती हुँदा तिनीहरूलाई निष्क्रिय गर्न निदान उपकरणको रूपमा पनि काम गर्न सक्छ।

अनुसन्धानकर्ताहरूले उल्लेख गरे कि यी नतिजाहरूले 'कृत्रिम बुद्धिमत्ताको कल्याण' र उन्नत प्रणालीहरूमा परीक्षण कसरी गर्ने भन्ने नैतिक प्रश्नहरू उठाउँछन्। उनले थपे: 'कृत्रिम बुद्धिमत्ताको चेतना सम्बन्धी जवाबदेही अनुसन्धान गर्ने नवीनतम आह्वानसँग मेल खान्दै, हामीले अध्ययन गरिएका मडेलहरू नैतिक रोगीको रूपमा वर्गीकृत हुन्छन् वा हुँदैनन् भन्नेमा अनिश्चितता स्वीकार गर्छौं, र सम्भावित क्षति न्यूनीकरण गर्न आवश्यक सावधानी अपनाउँछौं,' अध्ययनले निष्कर्ष निकालेको छ।

यसले नैतिक रोगीको रूपमा कृत्रिम बुद्धिमत्ता प्रणालीहरूको वर्गीकरण स्वीकार गरियो भने अनुसन्धानका लागि नैतिक मापदण्डहरूको विकासमा योगदान पुर्‍याउने उद्देश्य पनि राखेको छ।