के कम्पनीसँग कृत्रिम बुद्धिमत्ता विद्रोह गर्दा बन्द गर्ने बटन छ?

कृत्रिम बुद्धिमत्ता प्रणालीहरू प्रश्नहरूको उत्तर दिने सीमित भूमिकाबाट हट्दै कार्यहरू सम्पादन गर्ने, कोड लेख्ने र डिजिटल उपकरणहरू लगभग स्वतन्त्र रूपमा प्रयोग गर्ने तर्फ अग्रसर हुँदा एउटा अझ चिन्ताजनक प्रश्न उठ्छ: यदि कुनै उन्नत मोडेलले आफूमाथि लगाइएका सीमाहरू पार गर्न खोज्यो भने के हुन्छ?

‘गाइडलाइन एआई स्ट्यान्डर्ड्स’ नामक संगठनले गरेको नयाँ मूल्याङ्कनमा ओपन एआई, एन्थ्रोपिक, गुगल, मेटा र एक्स एआई सहितका ५ वटा ठूला कृत्रिम बुद्धिमत्ता कम्पनीहरू समावेश थिए। मुख्य निष्कर्ष यो थियो कि नियन्त्रणका उपायहरू विद्यमान छन् तर तिनीहरू अझै आंशिक र अपूर्ण छन्।

रिपोर्टले कम्पनीहरूको ६ वटा क्षेत्रहरूमा मूल्याङ्कन गरेको छ, जसमा मोडेलहरूले के गर्छन् भन्ने कुराको रेकर्ड राख्ने, शंकास्पत्र व्यवहारको निगरानी गर्ने, उच्च जोखिम भएका कार्यहरू रोक्ने, चेतावनी बढ्दा प्रणालीहरू बन्द गर्ने, स्वतन्त्र समीक्षा गर्ने, र मानव नियन्त्रण पार गर्न खोज्ने मोडेललाई सीमित गर्न योजना बनाउने जस्ता पक्षहरू पर्दछन्।

यी मध्ये कुनै पनि क्षेत्रमा कुनै पनि कम्पनीले पूर्ण मूल्याङ्कन प्राप्त गर्न सकेको छैन।

यस अध्ययनको अर्थ यो होइन कि कुनै कृत्रिम बुद्धिमत्ता मोडेलले चलचित्रमा देखाइएको जस्तो वास्तविक विद्रोह गरेको छ। यसको अभिप्राय यस्तो परिदृश्यको तयारी गर्नु हो जहाँ एउटा उन्नत प्रणालीले आफ्नो व्यवहार लुकाउन, आफ्नो अधिकारहरू पार गर्न, वा परीक्षण वा आन्तरिक प्रयोगको क्रममा अनचाहा कार्यहरू सम्पादन गर्न खोज्न सक्छ।

संगठनले जोड दिन्छ कि तिनीहरूको मूल्याङ्कन मुख्यतया सार्वजनिक रूपमा उपलब्ध जानकारीमा आधारित छ। त्यसैले, केही कम्पनीहरूमा आफ्नो खुलासा नगरेका आन्तरिक उपायहरू हुन सक्छन्।