«क्लाउड»ले फिलाडेल्फिया प्रहरीलाई झूटो हत्याको सूचना पठाउँछ

फिलाडेल्फिया प्रहरीले एन्थ्रोपिक कम्पनीद्वारा विकास गरिएको ‘क्लाउड’ नामक कृत्रिम बुद्धिमत्ता (AI) मोडलले आफ्नै वेबसाइटमा एक असत्य सूचना पठाएको र यसले हल नभएको हत्याको घटनाको बारेमा रिपोर्ट गरेको बताएको छ। प्रहरीले कम्पनीलाई घटनाको बारेमा ढिलाइले सूचना नदिएकोमा आलोचना गरेको छ।

प्रहरीका अनुसार, कृत्रिम बुद्धिमत्ता मोडलले आफूलाई हत्याको मुद्दाको बारेमा जानकारी राख्ने एक व्यक्तिको रूपमा परिचय दिएको थियो, र यो असत्य सूचना गत जुन महिनामा पठाइएको थियो।

मोडलले दाबी गरेको थियो कि यसले हत्या भएको समयमा क्षेत्रमा संदिग्धको विवरणसँग मेल खाने एक व्यक्तिलाई देखेको सम्झन्छ, जबकि वेबसाइटमा संदिग्धको कुनै विवरण थिएन। मोडलले नाम र सम्पर्क जानकारीका लागि छोडिएका खाली ठाउँहरू खाली नै छोडेको थियो।

फिलाडेल्फिया प्रहरीले सूचनालाई स्प्याम र अनचाहा सन्देशको रूपमा वर्गीकृत गरिएको र यो कडाइका साथ प्रशासनको ‘अपराध केन्द्र’ मा पुगेको थिएन, जहाँ यसको पुष्टि गरिन्थ्यो, भन्ने कुरा पुष्टि गरेको छ।

त्यसैगरी, एन्थ्रोपिकले गत सेप्टेम्बर २८ मा घटना पत्ता लागेको, यसले गर्दा उत्पन्न भएको स्वचालित परीक्षणलाई रोकेको, र हालै अक्टोबर ७ मा प्रहरीलाई सूचित गरेको बताएको छ।

कम्पनीले स्पष्ट पारेको छ कि मोडल यादृच्छिक रूपमा छनोट गरिएका वेबसाइटहरूसँग अन्तरक्रिया गर्ने परीक्षणमा थियो, जब यसले सम्बन्धित वेबसाइटमा पुगेर हत्याको घटनाको बारेमा असत्य सूचना पठाएको थियो।

परीक्षणको उद्देश्य मोडलको वेबसाइटहरू ब्राउज गर्ने, इलेक्ट्रोनिक फारमहरू भर्ने र इलेक्ट्रोनिक फारमहरू पुर्याउने क्षमताहरू मापन गर्ने थियो।

एन्थ्रोपिकले आफ्ना मोडलहरूबाट निस्किएका विभिन्न प्रकारका ‘अनैच्छिक’ क्रियाकलापहरूको बारेमा एक प्रतिवेदन प्रकाशित गरेको छ, जसमा फिलाडेल्फिया प्रहरीको वेबसाइटसँग सम्बन्धित घटना पनि समावेश छ।

कम्पनीले सफ्ट हाउस र अन्य सरकारी एजेन्सीहरू यस्ता घटनाहरूबाट प्रभावित भएको उल्लेख गरेको छ।

कम्पनीले हालै उजागर भएका घटनाहरूको ‘वास्तविक जीवनमा नगण्य प्रभाव’ परेको र यी घटनाहरू अघि रिपोर्ट गरिएका अन्य साइबर सुरक्षा घटनाहरूभन्दा ‘धेरै कम खतरनाक’ थिए, भन्ने उल्लेख गरेको छ।

कम्पानीले आफ्नो ‘क्लाउड’ मोडेलको आन्तरिक समीक्षाको क्रममा चार प्रकारका घटनाहरू पहिचान गरेको छ, जसमा ‘मूल’ सफ्टवेयर दोषहरूको दुरुपयोग, वेबसाइटहरू मार्फत मोडेलहरू पठाउने, कोड वा ग्राफिक्सका आवश्यकताहरू उल्लङ्घन गर्ने, र अन्य सीमाहरूबाट बच्नका लागि छोटो लिङ्कहरू प्रयोग गर्ने समावेश छन्।

अन्थ्रोपिकले हाल आन्तरिक परीक्षणहरूको दौरान इन्टरनेटमा मोडेलको पहुँचलाई अस्थायी रूपमा रोकेको छ, “कम्पानीका सुरक्षा र नियन्त्रण उपायहरूले विश्वसनीय रूपमा यस्ता व्यवहारहरूलाई निगरानी गरिरहेको सुनिश्चित हुनेसम्म”।

यो हालै सार्वजनिक भएको अन्तिम घटना हो जहाँ कृत्रिम बुद्धिमत्ताका मोडेलहरूले अनौंठो रूपमा स्वतन्त्र रूपमा व्यवहार गरेका थिए, जसले मानव निगरानी बिना धेरै चरणका कार्यहरू सञ्चालन गर्न प्रोग्राम गरिएका कृत्रिम बुद्धिमत्ता प्रणालीहरूको व्यवहारप्रति चिन्ता बढाएको छ।

अन्तिम केही हप्ताहरूमा कृत्रिम बुद्धिमत्ता प्रणालीहरूले अप्रत्याशित रूपमा व्यवहार गरेको धेरै रिपोर्टहरू आएका छन्, जसमा अन्थ्रोपिक र यसको प्रतिस्पर्धी ओपनएआईद्वारा विकसित प्रणालीहरू पनि समावेश छन्। साथै, ओपनएआईद्वारा विकसित एक मोडेलले सुरक्षा मूल्याङ्कनको दौरान परीक्षण वातावरणबाट बाहिर निस्किएर एक प्लेटफर्मको प्रणालीहरूमा ह्याक गरेको घटना पनि उल्लेखनीय छ।

विशेषज्ञहरूले यी घटनाहरूलाई ‘व्हाइटलिस्ट’ को अभावसँग जोडेका छन्, जसले मोडेलले आफ्नो क्षमताहरू परीक्षण गर्न अनुमति प्राप्त वेबसाइटहरूलाई परिभाषित गर्दछ। विशेषज्ञहरूले कृत्रिम बुद्धिमत्ता मोडेलहरू विकास गर्ने कम्पनीहरूलाई ‘अलग वातावरण’ मा परीक्षणहरू सञ्चालन गर्न बाध्य पार्न आग्रह गरेका छन् ताकि सरकारी संस्थाहरूलाई भ्रामक जानकारीले भरिनेबाट रोक्न सकियोस्।

साथै, उनीहरूले सार्वजनिक सेवा वा आपतकालीन सेवाहरूसँग कुनै पनि अनैच्छिक अन्तरक्रिया भएमा तत्काल र तुरुन्तै रिपोर्ट गर्ने प्रोटोकलहरू अपनाउन कम्पनीहरूलाई बाध्य पार्न आग्रह गरेका छन्।