سوءاستفاده از «کلود» ممنوع است... «آنتروپیک» مرزهای خشونت کاربران را تعیین می‌کند - سارمد
شرکت آنتروپیک از تاریخ ۱۲ نوامبر رفتارهای خشن نسبت به مدل هوش مصنوعی کلود را ممنوع اعلام کرد.
ترجمهٔ قیاس از سرمد — منبع اصلی
شرکت «آنتروپیک» اعلام کرد که کاربران خود را از هرگونه «رفتار آزاردهنده یا خشن، به‌طور مداوم و بدون توجیه» نسبت به برنامه هوش مصنوعی «کلود» خود منع خواهد کرد، به نقل از «آژانس فرانسه پرس».
این تصمیم از ۱۲ نوامبر اجرایی می‌شود و بر موارد حاد متمرکز خواهد بود؛ یعنی «مواردی که کاربران به‌طور مکرر و بدون هدف مشخصی با مدل‌ها به خشونت رفتار می‌کنند»، همان‌طور که شرکت در به‌روزرسانی سیاست استفاده از ابزارهای خود نوشته است.
شرکت افزود که این تصمیم شامل آزار و اذیت معمولی، اختلاف نظر، نوشتن داستان‌های خیالی خشن یا تاریک، و همچنین انجام آزمایش‌ها و پژوهش‌ها بر روی مدل‌ها نخواهد شد.
شرکت آمریکایی این تصمیم را به ویژگی‌ای مرتبط دانست که در اوت ۲۰۲۵ معرفی کرد و به «کلود» امکان می‌دهد گفتگو را به‌طور خودکار با کاربری که به‌طور مداوم آزار می‌رساند، پایان دهد. شرکت در آن زمان اعلام کرد که این ویژگی نتیجه «پژوهش‌های اکتشافی ما درباره ایمنی روانی احتمالی سیستم‌های هوش مصنوعی» است.
شرکت «آنتروپیک» به دلیل اشاره صریح به امکان وجود نوعی از آگاهی در مدل‌های خود، بحث‌های گسترده‌ای را برانگیخته است.
در ماه فوریه گذشته، مدیرعامل آن، داریو آمودی، در یک پادکست روزنامه آمریکایی «نیویورک تایمز» گفت: «ما نمی‌دانیم آیا مدل‌ها دارای آگاهی هستند یا خیر»، اما همزمان ابراز تمایل به پذیرش این ایده کرد.
