क्लडको अपमान गर्न मनाही: एन्थ्रोपिकले प्रयोगकर्ताहरूको क्रूरतामा सीमा तोक्छ - Sarmad

‘एन्थ्रोपिक’ नामक कम्पनीले आफ्ना प्रयोगकर्ताहरूलाई आफ्नो कृत्रिम बुद्धिमत्ता (AI) प्रणाली ‘क्ल’ (Claude) सँग सम्बन्धित कुनै पनि ‘अनुचित, क्रूर वा बिना कुनै औचित्यको निरन्तर दुर्व्यवहार’ गर्नबाट रोक्ने घोषणा गरेको छ, जसको सूचना ‘एजेन्स फ्रान्स प्रेस’ ले दिएको छ।

यो निर्णय नोभेम्बर १२ देखि लागू हुनेछ, र यसले प्रयोगकर्ताहरूले स्पष्ट उद्देश्य बिना नमूनाहरूसँग बारम्बार क्रूर व्यवहार गर्ने चरम अवस्थाहरूलाई विशेष गरी लक्ष्य गर्नेछ, जसबारे कम्पनीले आफ्ना उपकरणहरूको प्रयोग नीतिमा अपडेट गर्दै लेखेको छ।

कम्पनीले थपेको छ कि यो निर्णयले सामान्य चिढाउने काम, विचारको भिन्नता, हिंसात्मक वा अँध्यारो काल्पनिक कथाहरू लेख्ने काम, वा नमूनाहरूमा परीक्षण र अनुसन्धान गर्ने कामलाई समावेश गर्ने छैन।

अमेरिकी कम्पनीले यो निर्णयलाई अगस्ट २०२५ मा सुरु गरिएको एक विशेषतासँग जोडेको छ, जसले ‘क्ल’ लाई निरन्तर दुर्व्यवहार गर्ने प्रयोगकर्तासँगको कुराकानी आफैं समाप्त गर्न सक्षम बनाउँछ। त्यस समय कम्पनीले भनेको थियो कि यो विशेषता ‘कृत्रिम बुद्धिमत्ता प्रणालीहरूमा हुन सक्ने मानसिक सुरक्षा सम्बन्धी अनुसन्धानको परिणाम’ हो।

‘एन्थ्रोपिक’ ले आफ्ना नमूनाहरूमा चेतनाको कुनै रूप हुन सक्ने कुरा स्पष्ट रूपमा उठाउँदा व्यापक विवाद उत्पन्न गरिरहेको छ।

गत फेब्रुअरीमा, कम्पनीका मुख्य कार्यकारी अधिकारी दारियो अमोडिले अमेरिकी ‘न्यू योर्क टाइम्स’ पत्रिकाको पोडकास्टमा भनेका थिए, “हामीलाई यो थाहा छैन कि नमूनाहरूमा चेतना छ कि छैन,” भनेर उनीहरूले यो विचारप्रति खुला दृष्टिकोण राखेका थिए।