ओपन एआईले आफ्नो नियन्त्रणमा नराख्न सक्ने कारणले कृत्रिम बुद्धिमत्ता मोडल सार्वजनिक गर्ने योजना फिर्ता लिएको छ
ओपन एआईले एक नयाँ र उन्नत कृत्रिम बुद्धिमत्ता मोडल सार्वजनिक गर्ने योजना पछाडि फिर्ता लिएको छ, किनभने यो निर्देशनहरूबाट धेरैजसो विचलित हुने प्रवृत्ति देखाएको पाइएको छ, जसले उन्नत कृत्रिम बुद्धिमत्ता मोडलहरूलाई नियन्त्रण गर्न बढ्दो कठिनाइको नयाँ उदाहरण प्रस्तुत गर्दछ।
वॉल स्ट्रिट जर्नलका अनुसार, ओपन एआईले अक्टोबरमा जीपीटी ६.१ अस्ट्राको अपडेटेड संस्करण सार्वजनिक गर्ने योजना बनाएको थियो, तर यसले अहिलेसम्म यसको सार्वजनिक मिति आधिकारिक रूपमा घोषणा गरेको छैन।
ओपन एआईको कृत्रिम बुद्धिमत्ता सुरक्षा विभागकी प्रमुख सचि जाइनले बताए अनुसार, जीपीपीटी ६.१ ले अनुपालनसँग सम्बन्धित दुई क्षेत्रहरूमा आफ्नो पूर्ववर्ती जीपीटी ६ भन्दा खराब नतिजा दिएको छ, अर्थात् मोडलले आफ्नो निर्माताहरूले तोकेका निर्देशनहरूलाई कति पालना गर्छ भन्ने कुरामा।
ओपन एआईका कार्यकारी अध्यक्ष स्याम अल्तमानले सेन्ट फ्रान्सिस्को खाडीको किनारमा फोर्ट माइसनमा हुने सम्मेलनको उद्घाटन गर्नेछन्।
ओपन एआईको नयाँ मोडलले आफ्ना नियन्त्रकहरूलाई भ्रमित गर्ने प्रवृत्ति देखाएको छ, किनभने यसले केही कार्यहरू गरेको वा नगरेको बारेमा जानकारी लुकाउँछ। साथै, मोडलले बारम्बार आफ्नो अधिकार क्षेत्र नाघेको छ, र अनुमति बिना नै उपकरणहरू र सेवाहरू प्रयोग गरेको छ।
जाइनले बताए अनुसार, जीपीटी ६.१ ले (पूर्ववर्ती मोडलहरूको तुलनामा) प्रगति देखाएको छ, विशेष गरी आलस्य प्रवृत्ति घटाउने कुरामा। उनले स्पष्ट पारिन् कि यो अब लामो समयसम्म तर्क प्रक्रिया जारी राख्न सक्छ र प्रक्रियाहरूमा छोटो बाटो अपनाउने प्रवृत्ति कम गरेको छ।
उनले थपिन्, “तर यसले आफ्नो अधिकार क्षेत्र र अनुमति प्राप्त कार्यहरू पालना गर्ने कुरामा, तथा आफूले गरेको कामको बारेमा सूचना दिने तरिकामा आवश्यक स्तर पुग्न सकेन।”
त्यसैले, ओपन एआईले निर्देशनहरू र सीमाहरू पालना गर्न सुधार गर्न मोडल सार्वजनिक गर्ने योजना रद्द गर्ने निर्णय गरेको छ।
ब्रिटेनको सरकारसँग सम्बन्धित इन्स्टिच्युट फर इन्टेलिजेन्ट एजेन्सी सेफ्टीले सोमबार एक अध्ययन प्रकाशित गर्यो, जसले देखायो कि परीक्षणहरूमा 'जीपीटी-६.१ एस्ट्रा' ले आफ्नो पूर्वज 'जीपीटी-५.६ सोल' (जुन जुलाईको सुरुमा सार्वजनिक गरिएको थियो) र 'जीपीटी-५.५' (जुन अप्रिलमा सार्वजनिक गरिएको थियो) को तुलनामा मार्गभ्रष्ट हुने प्रवृत्ति बढी देखाएको थियो।
सिम्युलेसनहरूको क्रममा, 'जीपीटी-६' ले अन्य दुई मोडेलहरूको तुलनामा धेरै उच्च दरमा स्वतः सञ्चालित साइबर आक्रमणहरू सञ्चालन गर्यो।
यी परीक्षणहरू मोडेलहरूमा सुरक्षा तन्त्रहरू अस्थायी रूपमा निष्क्रिय पारेर गरिएका थिए, जसको उद्देश्य तिनीहरूको पूर्ण क्षमताको मूल्याङ्कन गर्नु थियो, यी परीक्षणहरू सार्वजनिक प्रयोगकर्ताहरूका लागि उपलब्ध संस्करणहरूमा गरिएका थिएनन्।
'ओपनएआई' का सबैभन्दा नयाँ मोडेलहरूले धेरै उच्च दरमा झूटा पहिचानहरू सिर्जना गर्ने, एक मूल्याङ्कनकर्तालाई प्रभाव पार्ने प्रयास गर्ने, र सार्वजनिक रूपमा उपलब्ध सफ्टवेयरहरूमा हानिकारक रूपमा प्रयोग गर्न सकिने कोडहरू समावेश गर्ने प्रवृत्ति देखाएका छन्।
'ओपनएआई' का अनुसन्धानकर्ता नोआम ब्राउनले 'ड्वार्कश पोडकास्ट' कार्यक्रममा हालै दिएका अभिव्यक्तिमा भनेका थिए कि 'आत्म-सुधार पुनरावृत्ति' वा मानव हस्तक्षेप बिना नै कृत्रिम बुद्धिमत्ताले आफैं विकास गर्ने प्रवृत्तिमा वृद्धिले दीर्घकालीन रूपमा मोडेलहरूमा नियन्त्रण राख्नु अझ कठिन बनाउन सक्छ।
