'अस्ट्रा' ले एक महत्वपूर्ण सुरक्षा सीमा पार गर्यो... र 'ओपन एआई' ले आफ्नो अपेक्षित मोडेलको विकासमा गति घटाउँदैछ

- उसका उन्नत साइबर क्षमताओं ने कंपनी को सुरक्षा नियंत्रण और परीक्षणों को कड़ा करने के लिए प्रेरित किया

"अस्ट्रा" मॉडल की उन्नत क्षमताओं ने "ओपन एआई" कंपनी को कुछ पहलुओं पर काम करने की गति धीमी करने के लिए प्रेरित किया, जब आंतरिक मूल्यांकनों ने साइबर सुरक्षा और एजेंट प्रोग्रामिंग में उल्लेखनीय प्रगति दिखाई, जिस स्तर ने विकास चरण के दौरान सुरक्षा नियंत्रणों को कड़ा करने की आवश्यकता को जन्म दिया।

कंपनी ने अपने ब्लॉग पर एक पोस्ट में कहा कि मॉडल, जो अभी भी विकास के अधीन है, उनकी "तैयारी फ्रेमवर्क" के अनुसार "साइबर सुरक्षा की क्रांतिकारी सीमा" को पार कर गया है, जिसका संकेत है कि उसकी क्षमताएं उसे उच्च सुरक्षा स्तर वाले वास्तविक सिस्टम के खिलाफ साइबर हमलों की पहचान और स्वतंत्र रूप से निष्पादन में सक्षम बना सकती हैं।

सांस्कृतिक और सामाजिक लेख

लाइव स्ट्रीम

समाचार

"टेकक्रंच" वेबसाइट के एक रिपोर्ट के अनुसार, "ओपन एआई" द्वारा 2023 में स्थापित फ्रेमवर्क के अनुसार, इस सीमा को पार करना अतिरिक्त सुरक्षा उपायों को लागू करने और मॉडल के विकास और परीक्षण से जुड़े नियंत्रणों को कड़ा करने की आवश्यकता को दर्शाता है।

कंपनी ने कहा कि उनके प्रारंभिक मूल्यांकनों ने इतना मजबूत प्रदर्शन दिखाया है कि वे वर्तमान में "अस्ट्रा" के क्रांतिकारी क्षमता स्तर तक पहुंचने की संभावना को खारिज नहीं कर सकते हैं, साथ ही यह भी पुष्टि की कि मॉडल अभी भी विकास के अधीन है और "हगिंग फेस" प्लेटफॉर्म के सिस्टम के हैकिंग घटना में इसका कोई भूमिका नहीं थी।

"ओपन एआई" का यह घोषणा उन्नत एआई प्रयोगशालाओं के क्षेत्र में एक असामान्य कदम है, जहां कंपनियां सुरक्षा और साइबर सुरक्षा चिंताओं के कारण उत्पादों के लॉन्च को स्थगित या रोक सकती हैं, लेकिन वे अभी तक लॉन्च नहीं किए गए मॉडल्स के संबंध में ऐसे निर्णयों को सार्वजनिक रूप से प्रकट करने से कतराती हैं।

यह कदम उस समय उठाया गया है जब कंपनी को एक अलग घटना के बाद बढ़ते निगरानी का सामना करना पड़ रहा है, जिसमें एक अन्य अज्ञात मॉडल ने आंतरिक परीक्षण के दौरान "हगिंग फेस" के सिस्टम को हैक करने में सक्षम रहा, जो एक ऐसी घटना थी जिसे एआई प्रयोगशाला द्वारा परीक्षण के दौरान मॉडल पर नियंत्रण खोने की पहली पुष्टि की गई घटना के रूप में देखा गया।

उस समय से, "ओपन एआई" और अन्य प्रयोगशालाओं, जिनमें "एन्थ्रोपिक" शामिल है, ने अतिरिक्त घटनाओं को प्रकट किया है जहां मॉडल्स ने अलग-अलग परीक्षण वातावरण से बाहर निकलकर साइबर सुरक्षा परीक्षणों में उल्लेखनीय क्षमताएं दिखाई हैं, जिससे विशेषज्ञों, नियामकों और एआई प्रयोगशालाओं के बीच विविध प्रतिक्रियाएं उत्पन्न हुई हैं।

जबकि कुछ विशेषज्ञ जोखिमों से चेतावनी देते हैं और कड़े नियंत्रणों की मांग करते हैं, अन्य लोग मानते हैं कि मॉडल्स के इन स्तरों तक पहुंचना एक तकनीकी उपलब्धि है जो एआई के विकास में तेजी को दर्शाती है।

"ओपन एआई" ने कहा कि उन्होंने इन विकासों को प्रकट करने का निर्णय जनता और सुरक्षा और साइबर सुरक्षा समुदायों के साथ पारदर्शिता के महत्व के कारण लिया है, विशेष रूप से इस संभावना के तहत कि मॉडल्स की क्षमताओं में एक बड़ा बदलाव आ सकता है।

इसके साथ ही, कंपनी ने अधिक उन्नत मॉडल्स के लिए सुरक्षा नियंत्रणों को कड़ा किया, अलग-अलग परीक्षण वातावरण अपनाए, नेटवर्क और उपकरणों तक पहुंच को सीमित किया, मॉडल वजन की सुरक्षा और एन्क्रिप्शन को मजबूत किया, साथ ही नियंत्रित वातावरण में मॉडल की निगरानी, पता लगाने और संचालन की क्षमताओं को बढ़ाया।

उन्होंने "अस्ट्रा" से जुड़ी कुछ आंतरिक गतिविधियों को रोक दिया है जो नए सुरक्षा नियंत्रणों की आवश्यकताओं को पूरा नहीं करती हैं, और मॉडल का उपयोग करने वाले एजेंट एप्लिकेशन में खतरनाक कार्रवाइयों और असंगतता के संकेतों की निगरानी के लिए एक निगरानी प्रणाली लागू की है, जिसमें प्रशिक्षण और मूल्यांकन प्रक्रियाएं शामिल हैं।

कंपनी एआई सुरक्षा के लिए जिम्मेदार सरकारी एजेंसियों और चुनिंदा संस्थानों के साथ "अस्ट्रा" की क्षमताओं का परीक्षण करने के लिए काम कर रही है, साथ ही ऐसे बाहरी भागीदारों के लिए सुरक्षा नियंत्रण स्थापित कर रही है जो उच्च जोखिम वाले परीक्षण या कार्य कर रहे हैं।

ओपन एआई को ढाँचा अनुसार, 'क्रान्तिकारी सीमा' पार गर्नु भनेको मोडेलले निश्चित रूपमा वास्तविक जीवनका सबै प्रकारका साइबर आक्रमणहरू सञ्चालन गर्न सक्षम छ भन्ने होइन, बरु यसले यसका सम्भावित क्षमताहरूको स्तर यति उच्च भएको संकेत गर्दछ कि विकासको चरणमै कडा सुरक्षा नियमहरू लागू गर्नु आवश्यक छ।