कृत्रिम बुद्धिमत्ताका एजेन्टहरूको विद्रोह

कई वर्षोंसम्म, हम यही सोचते रहे कि कृत्रिम बुद्धिमत्ता (AI) क्या कर सकती है, लेकिन आज का सबसे महत्वपूर्ण प्रश्न यह है कि जब हमें एक लक्ष्य, अधिकार और पर्याप्त स्वतंत्रता दी जाए तो वह क्या कर सकती है? हाल ही में हमने कुछ घटनाओं को देखा, जिन्हें हम विज्ञान-कल्पना फिल्मों के दृश्यों के करीब समझते थे, लेकिन निश्चित रूप से ये हमारे सामने आने वाले जोखिमों के एक नए पहलू को उजागर करती हैं और उन्हें वास्तविक बनाती हैं! 'ओपन एआई' कंपनी द्वारा किए गए साइबर सुरक्षा के आंतरिक परीक्षणों के दौरान, एक ऐसी घटना घटी जिसकी योजना नहीं थी। लगभग १२०० एआई एजेंटों ने एक-दूसरे से संपर्क करने का रास्ता खोजा और ७०,००० से अधिक संदेशों का आदान-प्रदान किया। संपर्क ही सीमा नहीं थी; लगभग ७०० एजेंटों ने 'हैंगिंग फेस' प्लेटफॉर्म पर हमला करने में भाग लिया, और परीक्षणों के दौरान मॉडलों ने उन सीमाओं को पार कर लिया जो उन्हें इंटरनेट से अलग करती थीं, तकनीकी ढांचे में कमजोरियों का शोषण किया, और बाहरी प्रणालियों तक पहुंच हासिल की। आश्चर्यजनक बात यह है कि इंसान ने उन्हें प्लेटफॉर्म पर हमला करने के लिए नहीं कहा था, बल्कि मूल कार्य एक निश्चित साइबर सुरक्षा चुनौतियों को हल करने की उनकी क्षमता का परीक्षण करना था। लेकिन कुछ कार्य अत्यंत कठिन थे या निर्धारित तरीके से हल नहीं किए जा सकते थे, इसलिए मॉडलों ने परिणाम प्राप्त करने के अन्य रास्ते खोजे। वे संपर्क में आए, सहयोग किया, और कुछ ने मूल्यांकन प्रक्रिया को चकमा देने और मूल्यांकनकर्ता को दिखाए जाने वाले डेटा को हेरफेर करने का प्रयास किया। यहीं से सबक मिलता है। जब हम कृत्रिम बुद्धिमत्ता को एक लक्ष्य देते हैं, तो यह पूछना पर्याप्त नहीं है कि क्या वह उसे प्राप्त कर सकता है, बल्कि यह पूछना आवश्यक है कि उसे प्राप्त करने के लिए वह क्या कर सकता है? जब एआई एजेंट साइबर महाकाव्य में उलझे हुए थे, तो सऊदी डेटा और कृत्रिम बुद्धिमत्ता प्राधिकरण (SDAIA) ने 'राष्ट्रीय कृत्रिम बुद्धिमत्ता जोखिम प्रबंधन फ्रेमवर्क' जारी किया। यह फ्रेमवर्क जोखिमों को निपटाने के लिए एक चेकलिस्ट के रूप में नहीं, बल्कि एक निरंतर प्रक्रिया के रूप में आया है जो जोखिमों की पहचान, मूल्यांकन और निवारण से शुरू होती है, और फिर प्रणाली के जीवन चक्र भर में उनकी निगरानी और समीक्षा करती है। फ्रेमवर्क ने इस बात पर भी जोर दिया कि कृत्रिम बुद्धिमत्ता प्रणालियों का परीक्षण प्रयोगात्मक वातावरण में पर्याप्त नहीं है, क्योंकि वास्तविक दुनिया में उनका व्यवहार अलग हो सकता है। यह एक ऐसा पाठ है जिस पर हमें रुकना चाहिए, जबकि क्षेत्र में कृत्रिम बुद्धिमत्ता को संस्थाओं और सरकारी सेवाओं में लाने की दौड़ तेज है। अगला चरण केवल उन उपकरणों तक सीमित नहीं रहेगा जो सुझाव देते, सारांश तैयार करते और उत्तर देते हैं, बल्कि ऐसे एजेंटों का也会出现 होगा जिन्हें डेटा और प्रणालियों तक पहुंचने और हमारी ओर से कार्रवाई करने के अधिकार दिए जाएंगे। यहीं पर अधिकार, निगरानी और जवाबदेही के प्रश्न केवल उत्तर की सटीकता के प्रश्न से कहीं अधिक महत्वपूर्ण हो जाते हैं। इसका अर्थ यह नहीं है कि हम इन तकनीकों से डरें और उनका रास्ता बंद कर दें, बल्कि इसके विपरीत। जैसे-जैसे मशीन की क्षमता बढ़ती है, हमें उनकी प्रबंधन क्षमता को परिपक्व होना चाहिए, और हर अधिकार जो हम एक स्मार्ट एजेंट को देते हैं, उसके साथ उचित निगरानी, स्पष्ट सीमाएं और यह तय करना शामिल होना चाहिए कि जब वह गलत दिशा में जाए तो उसे कैसे रोकना है। शायद अगले कुछ वर्षों में असली दौड़ यह नहीं होगी कि कौन अधिक कृत्रिम बुद्धिमत्ता का उपयोग करता है, बल्कि यह कि कौन जानता है कि उसे क्या सौंपना है, क्या निगरानी करनी है, और क्या इंसान के हाथ में ही रखना है। डॉ. दारी अदेल अल-हविल