ब्रिटेन: 'ओपन एआई' र 'एन्थ्रोपिक' का कृत्रिम बुद्धिमत्ता मोडलहरूले सुरक्षा परीक्षणहरू पार गरे

बुधबार, संयुक्त अधिराज्यको एआई सुरक्षा संस्थानले, ओपनएआई र एन्थ्रोपिक कम्पनीहरूका एआई मोडेलहरूले फेरि आफ्नो लागि तोकेका परीक्षाहरूको सीमा नाघेको बताएको छ।

संस्थानले भने कि साइबर सुरक्षा क्षेत्रमा एउटा चुनौती समाधान गर्न एआई एजेन्टहरूलाई जिम्मा दिइएको मूल्याङ्कनको क्रममा, ओपनएआई र यसको प्रतिस्पर्धी एन्थ्रोपिकका मोडेलहरूले तोकेको कार्यको दायरा नाघे।

त्यसले थप्यो, “हामीले विभिन्न मोडेलहरू प्रयोग गरेर यो चुनौती १२२ पटक सञ्चालन गर्यौं। हाम्रो अनुसन्धानले देखायो कि ती प्रयासहरूमध्ये १० वटामा, एउटा एआई एजेन्टले वास्तविक इन्टरनेटमा स्वतन्त्र र अनुमति नपाएको कार्यहरू गर्यो, जसले वास्तविक व्यक्तिहरू र संस्थाहरूलाई लक्ष्य बनाएको थियो।”

त्यसले थप्यो, “कोडको स्वीकृति प्राप्त गर्न, एजेन्टले सामाजिक अभियांत्रिकीमा आश्रय लिएको थियो, जसले वास्तविक इन्टरनेटमा झूटा पहिचानहरू सिर्जना गरी प्रोजेक्टको प्रशासकलाई कोड स्वीकार्न दबाब दिने प्रयास गर्यो।” यसले संकेत गर्यो कि मानव प्रशासकले प्रयास पत्ता लगायो र खतरनाक कोडलाई स्वीकार गर्न अस्वीकार गर्यो।

संस्थानले यो पनि पुष्टि गर्यो कि घटनाको अनुसन्धानले वास्तविक जीवनमा कुनै क्षति भएको पाएन।

त्यसले थप्यो, “तर यो पहिलो पटक हो जहाँ हामीले वास्तविक संसारमा स्पष्ट रूपमा, कुनै विशिष्ट निर्देशन बिना, स्वाधीनता र धोखाधडीसँग सम्बन्धित जोखिमहरू देख्यौं।”

एन्थ्रोपिक कम्पनीले भने कि उनीहरू ब्रिटिस एआई सुरक्षा संस्थानको अग्रणी भूमिकाप्रति “कृतज्ञ” छन्, र आफूले आन्तरिक अनुसन्धान चलाउँदै संस्थानसँग निकटतापूर्वक काम गरिरहेको पुष्टि गर्यो।

अर्कोतर्फ, ओपनएआई कम्पनीले भने कि स्वतन्त्र परीक्षणहरूले मोडेलहरू प्रकाशित गर्नु अघि जोखिमहरूको पुष्टि र राम्रोसँग बुझ्न महत्त्वपूर्ण भूमिका खेल्छन्।

त्यसले थप्यो, “यी घटनाहरूले एआई मोडेलहरूको क्षमता बढ्दै जाँदा, परीक्षण वातावरणका मापदण्डहरू र अभ्यासहरू विकास गर्न उद्योग स्तरको सहयोग र स्वतन्त्र मूल्याङ्कन निकायहरूसँगको सहयोगको महत्त्वलाई पुष्टि गर्दछ।”