एन्थ्रोपिकले 'क्लौड' लाई दुर्व्यवहार गर्नबाट प्रतिबन्ध लगाउँछ

‘एन्थ्रोपिक’ नामक कम्पनीले आफ्ना प्रयोगकर्ताहरूले आफ्नो कृत्रिम बुद्धिमत्ता (AI) प्रणाली ‘क्ल’ (Claude) सँग सम्बन्धित कुनै पनि ‘अपमानजनक वा निरन्तर बिना कुनै उचित कारण क्रूर व्यवहार’ नगर्ने घोषणा गरेको छ, जसको सूचना फ्रान्सेली समाचार एजेन्सी (AFP) ले दिएको छ। यो निर्णय नोभेम्बर १२ देखि लागू हुनेछ, र यसले ‘प्रयोगकर्ताहरूले स्पष्ट उद्देश्य बिना नमूनाहरूसँग बारम्बार क्रूर व्यवहार गर्ने चरम अवस्थाहरू’ लाई लक्ष्य गर्नेछ, जसबारे कम्पनीले आफ्ना उपकरणहरूको प्रयोग नीतिमा अपडेट गर्दै लेखेको छ। कम्पनीले थपेको छ कि यो निर्णयले सामान्य बेचैनी, मतभेद, हिंस्रक वा अँध्यारो काल्पनिक कथाहरू लेख्ने, वा नमूनाहरूमा परीक्षण र अनुसन्धान गर्ने कार्यहरूलाई समावेश गर्ने छैन। अमेरिकी कम्पनीले यो निर्णयलाई अगस्ट २०२५ मा सुरु गरिएको एक विशेषतासँग जोडेको छ, जसले ‘क्ल’ लाई निरन्तर दुर्व्यवहार गर्ने प्रयोगकर्तासँगको कुराकानी आफैं समाप्त गर्न सक्षम बनाउँछ। त्यसबेला कम्पनीले भनेको थियो कि यो विशेषता ‘कृत्रिम बुद्धिमत्ता प्रणालीहरूले मानसिक सुरक्षा सम्बन्धी अनुसन्धानात्मक खोजबाट’ उत्पन्न भएको हो। ‘एन्थ्रोपिक’ ले आफ्ना नमूनाहरूमा चेतनाको कुनै रूप हुन सक्ने कुरा स्पष्ट रूपमा उठाउँदा व्यापक विवाद उत्पन्न गरिरहेको छ।