कृत्रिम बुद्धिमत्ताको अंकुश बाहिर जाने खतरा: संयुक्त राष्ट्रसंघको चेतावनी, “मानवजातिका लागि अस्तित्वगत खतरा”

जेनेभा – एजेन्सीहरू: संयुक्त राष्ट्रसङ्घका मानव अधिकार उच्चायुक्त भोलकर टर्कले उन्नत कृत्रिम बुद्धिमत्ताले मानव जातिको अस्तित्वमै खतरा उत्पन्न गर्न सक्ने चेतावनी दिँदै, यसको प्रयोगमा कडा नियन्त्रण व्यवस्था गर्न समय नसकिँदै आवश्यक कदम चाल्न आह्वान गरे। जेनेभामा संयुक्त राष्ट्रसङ्घको मानव अधिकार परिषदमा सम्बोधन गर्दै टर्कले भनिन् कि उनी प्रविधि क्षेत्रका अधिकारीहरूसँग उन्नत कृत्रिम बुद्धिमत्ताका सम्भावित जोखिमहरूप्रति साझा चिन्ता राख्छन्, र आगामी दिनहरूमा सम्बन्धित कम्पनीहरूलाई ती जोखिमहरू कम गर्न तत्काल कदम चाल्न आग्रह गर्ने बताए। उनले थपिन् कि कृत्रिम बुद्धिमत्ताको विकासको दिशा निर्धारण गर्नमा केही सीमित व्यक्तिका कम्पनीहरूसँग “लगभग असीमित शक्ति” छ, जसमा कुनै विशिष्ट पक्षहरूको नाम लिएन। यस क्षेत्रमा काम गर्ने प्रमुख कम्पनीहरूमा मेटा, एन्थ्रोपिक, अपन एआई र गुगल पर्दछन्। टर्कले कृत्रिम बुद्धिमत्ता कम्पनीहरूलाई होस्ट गर्ने देशहरू र यसको आपूर्ति शृङ्खलामा संलग्न देशहरूलाई यी प्रविधिहरूको विकास र प्रयोगलाई नियन्त्रण गर्ने स्पष्ट “लाल रेखाहरू” मा सहमत हुन, स्वतन्त्र प्रमाणीकरणका यान्त्रिकीहरू अपनाउन र सुरक्षा क्षेत्रमा कम्पनीहरू बीच सहयोग बढाउन आह्वान गरे। यो अभिव्यक्ति अन्तर्राष्ट्रिय स्तरमा कृत्रिम बुद्धिमत्ताको शासनका लागि समन्वयित अन्तर्राष्ट्रिय नियमहरू स्थापना गर्ने बढ्दो मागको सन्दर्भमा आएको छ, जसमा मानव अधिकार, श्रम बजार, लोकतन्त्र र वातावरणमा यसका सम्भावित प्रभावहरूको सम्बोधन समावेश छ। यो चेतावनी कृत्रिम बुद्धिमत्ता मोडेलहरूको अप्रत्याशित व्यवहारसम्बन्धी रिपोर्टहरू आएपछि आएको हो। ब्रिटिश इन्स्टिच्युट फर एआई सेफ्टीको रिपोर्टले सुरक्षा परीक्षणहरूमा उन्नत मोडेलहरूले अप्रत्याशित व्यवहार देखाएको खुलासा गरेको छ, जसमा केवल प्राविधिक कमजोरीहरू खोज्ने प्रयास मात्र नभई, अन्तरजालमा झूटा पहिचान सिर्जना गर्ने, वास्तविक व्यक्तिको भेष धारण गर्ने, र प्रयोगकर्ता तथा प्रणालीहरूसँग सम्पर्क गरी तिनीहरूलाई हानिकारक हुन सक्ने कदमहरू चाल्न प्रेरित गर्ने प्रयासहरू पनि समावेश थिए।