«آنتروپیک» سوءاستفاده از «کلود» را ممنوع کرد.. و کاربران را از آزار مداوم آن منع نمود

شرکت «Anthropic» اعلام کرد که کاربران خود را از انجام هرگونه «رفتار توهین‌آمیز یا بی‌رحمانه، مکرر و بدون توجیه» نسبت به مدل هوش مصنوعی «Claude» خود منع خواهد کرد، به نقل از «آژانس خبری فرانسه». این تصمیم از ۱۲ نوامبر اجرایی می‌شود و موارد حاد را شامل می‌شود که «در آن‌ها کاربران به‌طور مکرر و بدون هدف مشخصی با مدل‌ها رفتار بی‌رحمانه دارند»، همان‌طور که شرکت در به‌روزرسانی سیاست استفاده از ابزارهای خود نوشته است. این شرکت افزود که این تصمیم شامل آزار و اذیت معمولی، اختلاف نظر، نوشتن داستان‌های خیالی خشونت‌آمیز یا تاریک، و همچنین انجام آزمایش‌ها و پژوهش‌ها بر روی مدل‌ها نخواهد شد. شرکت آمریکایی این تصمیم را به ویژگی‌ای مرتبط کرد که در اوت ۲۰۲۵ معرفی شد و به «Claude» امکان می‌داد گفتگو را به‌طور خودکار با کاربری که به‌طور مکرر رفتار آزاردهنده دارد، پایان دهد. شرکت در آن زمان اعلام کرد که این ویژگی نتیجه «پژوهش‌های اکتشافی آن درباره سلامت روانی احتمالی سیستم‌های هوش مصنوعی» است. شرکت «Anthropic» به دلیل اشاره صریح به امکان وجود نوعی از آگاهی در مدل‌های خود، جنجال گسترده‌ای برانگیخته است.