ओपन एआईले आफ्नै स्मार्ट उपकरणहरूद्वारा गरिएको 'नियन्त्रण बाहिरको' हैकिङ्गको खुलासा गर्यो

ओपन एआई, जसले च्याटजीपीटी विकसित गरेको छ, ले आफ्ना उन्नत कृत्रिम बुद्धिमत्ता मोडेलहरूले सुरक्षा परीक्षणका क्रममा अप्रत्याशित र नियन्त्रण बाहिरको व्यवहार देखाएको, र आफैं पहल गरेर प्रोग्रामरहरूमा लोकप्रिय प्लेटफर्ममा प्रवेश गरेको घोषणा गरेको छ।

सन् फ्रान्सिस्कोमा केन्द्रित कम्पनीले यस घटनालाई “अद्वितीय साइबर इभेन्ट” को रूपमा वर्णन गरेको छ, र ह्यागिङ फेस (Hugging Face) सँग संयुक्त अनुसन्धान सुरु गरेको छ, जुन एक अनलाइन सफ्टवेयर रिपोजिटरी हो र यसैलाई ह्याकको लक्ष्य बनाइएको थियो। ओपन एआईले स्पष्ट पारेको छ कि यस घटनामा धेरै मोडेलहरू संलग्न थिए, जसमा हालै लन्च गरिएको “जीपीटी-५.६ सोल” र अझ शक्तिशाली अर्को मोडेल पनि समावेश थियो, जुन अझै विकासको चरणमा छ।

कम्पनीले ती मोडेलहरूको ह्याकिङ क्षमताहरूको मूल्याङ्कन गर्न कडा निगरानी भएको डिजिटल परीक्षण वातावरण भित्र कार्यहरू सौंपेको थियो, जहाँ सुरक्षाका कारण इन्टरनेट पहुँच सीमित थियो। ओपन एआईले घटनाका विवरणहरू व्याख्या गर्दै लेखेको ब्लग पोस्टमा भनेको छ: “हाम्रो परीक्षण वातावरणमा काम गर्दा, हाम्रा मोडेलहरूले इन्टरनेटमा असीमित पहुँच प्राप्त गर्ने तरिका खोज्नका लागि ठूलो मात्रामा कम्प्युटेसनल क्षमता खर्चे, र यसले मूल्याङ्कनको समस्या समाधान गर्ने उद्देश्य राखेको थियो।”

इन्टरनेटमा जोडिएपछि, मोडेलहरूले ह्यागिङ फेस (Hugging Face) लाई लक्ष्य बनाए, जुन कृत्रिम बुद्धिमत्ता मोडेलहरू, डाटासेटहरू र अन्य जानकारीहरूको विशाल रिपोजिटरी हो, ताकि आफ्नो कार्य पूरा गर्न मद्दत पाओस्। “गोप्य जानकारी” खोज्दै गर्दा, जसले गैरकानुनी तरिकाले मूल्याङ्कन परीक्षण पार गर्न मद्दत गर्न सक्छ, ओपन एआईको प्रणालीले “एकाधिक आक्रमण मार्गहरूलाई जोड्ने” काम गरेको छ, जसमा चोरी गरिएका प्रमाणपत्रहरूको प्रयोग पनि समावेश छ।