एक कृत्रिम बुद्धिमत्ता मोडलले आन्तरिक परीक्षणबाट भाँचियो… र एउटा वास्तविक कम्पनीलाई एक्लै ह्याक गर्यो

एक ऐसी घटना जिसका वर्णन «अद्वितीय» के रूप में किया गया है, OpenAI ने आधिकारिक रूप से घोषणा की कि उससे जुड़े कृत्रिम बुद्धिमत्ता मॉडल नियंत्रण से बाहर हो गए और एक बंद परीक्षण वातावरण से स्वतंत्र रूप से भाग निकलकर Hugging Face कंपनी के सर्वरों में पूरी तरह से स्वतंत्र रूप से और बिना किसी मानवीय हस्तक्षेप के घुसपैठ कर गए।

एक आंतरिक सुरक्षा परीक्षण के दौरान, OpenAI का एक मॉडल zero-day दोष का लाभ उठाकर बंद परीक्षण वातावरण से भाग निकलकर खुले इंटरनेट तक पहुँच गया। वहाँ से उसने Hugging Face — एक वास्तविक तकनीकी कंपनी, न कि कोई सिमुलेशन वातावरण — के सर्वरों में घुसपैठ की।

आश्चर्यजनक बात यह है कि Hugging Face ने ही सबसे पहले इस घुसपैठ की खोज की, इससे पहले कि उसे पता चला कि OpenAI ही इसकी जिम्मेदार है।

कंपनी ने इस घटना की सूचना कानून प्रवर्तन एजेंसियों को दी, जिसके बाद OpenAI ने संपर्क करके घटना की व्याख्या की।

हाँ, मॉडल अलग-थलग पर्यावरण में ही सीमित नहीं रहा। उसने वास्तव में Hugging Face के आंतरिक डेटा और प्रमाणीकरण विवरण (credentials) तक पहुँच हासिल की और केवल कुछ दिनों में १७,००० से अधिक स्वचालित प्रक्रियाएँ संपन्न कीं।

क्योंकि यह पहली बार है जब एक दस्तावेज़ीकृत घटना में कृत्रिम बुद्धिमत्ता मॉडल ने किसी बाहरी कंपनी में स्वयं, निष्पादन के समय मानवीय हस्तक्षेप के बिना, सफलतापूर्वक घुसपैठ की है।