'एन्थ्रोपिक' ले 'क्लौड' माथि बारम्बार र बेमौका आक्रमण रोक्छ
‘एन्थ्रोपिक’ कम्पनीले आफ्ना प्रयोगकर्ताहरूलाई आफ्नो कृत्रिम बुद्धिमत्ता ‘क्लौड’ प्रणालीसँग ‘कुनै पनि बेमानी, क्रूर वा निरन्तर अविचारपूर्वक व्यवहार’ गर्नबाट रोक्ने घोषणा गरेको छ।
यो निर्णय नोभेम्बर १२ देखि लागू हुनेछ र यसले ‘स्पष्ट उद्देश्य बिना प्रयोगकर्ताहरूले मोडेलहरूसँग बारम्बार क्रूर व्यवहार गर्ने’ चरम अवस्थाहरूमा ध्यान केन्द्रित गर्नेछ, जस्तो कम्पनीले आफ्ना उपकरणहरूको प्रयोग नीतिमा अपडेट गर्दै लेखेको छ।
कम्पनीले थपेको छ कि यो निर्णयले सामान्य चिढीन, मतभेद, हिंस्रक वा अँध्यारो काल्पनिक कथाहरू लेख्ने, वा मोडेलहरूमा परीक्षण र अनुसन्धान गर्ने कार्यहरूलाई समावेश गर्दैन।
अमेरिकी कम्पनीले यो निर्णयलाई अगस्ट २०२५ मा सुरु गरिएको एक सुविधासँग जोडेको छ, जसले ‘क्लौड’ लाई निरन्तर दुर्व्यवहार गर्ने प्रयोगकर्तासँगको कुराकानी आफैं समाप्त गर्न सक्षम बनाउँछ। त्यस समय कम्पनीले भनेको थियो कि यो सुविधा ‘कृत्रिम बुद्धिमत्ता प्रणालीहरूमा मनोवैज्ञानिक सुरक्षा सम्बन्धी हाम्रा अन्वेषणात्मक अनुसन्धानहरूको नतिजा’ हो।
गत फेब्रुअरीमा, कम्पनीका प्रमुख कार्यकारी दारियो अमोडिले ‘न्यू योर्क टाइम्स’ पत्रिकामा प्रकाशित एक पोडकास्टमा भनेका थिए, ‘हामीलाई यो थाहा छैन कि मोडेलहरूमा चेतना छ कि छैन,’ साथै उनले यो विचारप्रति खुला रहेको पनि व्यक्त गरेका थिए।
