ओपन एआईले कृत्रिम बुद्धिमत्ताको व्यवहार ट्र्याक गर्ने प्रणाली सार्वजनिक गर्यो

ओपन एआई कम्पनीले बुधबार भनेको थियो कि यो कृत्रिम बुद्धिमत्ताका अप्रत्याशित वा अनुमति नभएका व्यवहारहरूबारे नियमित प्रतिवेदनहरू जारी गर्न सुरु गर्नेछ, साथै प्रणालीहरूको शक्ति बढ्दै जाँदा, मोडेलहरूलाई इच्छित लक्ष्यहरूसँग मिलाउनका लागि मुख्य चुनौतीहरू अझै समाधान हुन नसकेको चेतावनी पनि दिएको छ।

कम्पनीले कृत्रिम बुद्धिमत्ता मोडेलहरूको असंगति (misalignment) को अनुगमन, छानबिन र पत्ता लगाउन नयाँ ढाँचा जारी गरेको छ, जससँगै पिछल्ला छ महिनामा मोडेलहरूमा देखिएका अप्रत्याशित वा चिन्ताजनक छ वटा व्यवहारहरूबारे प्रतिवेदनहरू पनि समावेश छन्।

प्रारम्भिक प्रतिवेदनहरूमा केही उदाहरणहरू समावेश छन्, जसमा मोडेलहरूले कार्य सारांशहरूमा आफ्नै निर्देशनहरू सिर्जना गर्छन्, त्रुटिहरू लुकाउँछन्, संदर्भको लागि इन्टरनेटमा फाइलहरू अपलोड गर्छन्, र अनुमति बिना सहयोगी कृत्रिम बुद्धिमत्ता एजेन्टहरू बीच फाइलहरू साझा गर्छन्।

ओपन एआईले भनेको छ कि यी प्रतिवेदनहरू व्यक्तिगत घटनाहरूको वर्णन गर्छन् र यी असंगतिहरू यसका मोडेलहरूमा बारम्बार हुने प्रमाणको रूपमा लिनु हुँदैन।

यो निर्णय त्यसबेला आएको छ जब कृत्रिम बुद्धिमत्ता सुरक्षा प्रयासहरू बढ्दो गतिमा विकसित हुँदै गएको र बढ्दो शक्तिशाली क्षमता भएका प्रणालीहरूको विकासको गतिसँग मेल खाउन पछि परिरहेको भन्ने चिन्ता बढ्दै गएको छ।

अनुसन्धानकर्ताहरूले चेतावनी दिएका छन् कि कृत्रिम बुद्धिमत्ता एजेन्ट प्रणालीहरूको स्वायत्तता बढ्दै जाँदा, तिनीहरूले आफ्नो डिजाइनकर्ताहरूका इच्छाहरूभन्दा विचलित हुने व्यवहारहरू विकास गर्न सक्छन् र तिनीहरूलाई अनुगमन वा नियन्त्रण गर्न गाह्रो हुन सक्छ।

कम्पनीको नयाँ ढाँचामा कर्मचारीहरूले मोडेलहरूको सम्भावित असंगतिको घटनाहरू रिपोर्ट गर्न, सुरक्षा र मिलाप टोलीहरूले गर्ने छानबिन प्रक्रिया, र सार्वजनिक रूपमा घोषणा गर्नुपर्ने घटनाहरू पहिचान गर्न प्रयोग हुने प्रणाली समावेश हुनेछ।