«آنتروپیک» از تکرار توهین‌های بی‌دلیل به «کلود» جلوگیری می‌کند
شرکت «آنتروپیک» اعلام کرد که کاربران خود را از هرگونه «رفتار آزاردهنده یا خشن، به‌طور مداوم و بدون توجیه» نسبت به مدل هوش مصنوعی «کلود» خود منع خواهد کرد.
این تصمیم از ۱۲ نوامبر اجرایی می‌شود و بر موارد حاد متمرکز خواهد بود؛ یعنی «مواردی که کاربران به‌طور مکرر و بدون هدف مشخصی با مدل‌ها به‌صورت خشن رفتار می‌کنند»، همان‌طور که شرکت در به‌روزرسانی سیاست استفاده از ابزارهای خود نوشته است.
شرکت افزود که این تصمیم شامل آزار و اذیت‌های معمولی، اختلاف نظر، نوشتن داستان‌های خیالی خشونت‌آمیز یا تاریک، و همچنین انجام آزمایش‌ها و پژوهش‌ها بر روی مدل‌ها نخواهد شد.
شرکت آمریکایی این تصمیم را به ویژگی‌ای مرتبط دانست که در اوت ۲۰۲۵ معرفی کرد و به «کلود» امکان می‌داد مکالمه را به‌طور خودکار با کاربری که به‌طور مداوم رفتار آزاردهنده دارد، قطع کند. شرکت در آن زمان اعلام کرد که این ویژگی نتیجه «پژوهش‌های اکتشافی آن‌ها درباره ایمنی روانی احتمالی سیستم‌های هوش مصنوعی» است.
در ماه فوریه گذشته، داریو آمودی، مدیرعامل شرکت، در یک پادکست روزنامه «نیویورک تایمز» گفت: «ما نمی‌دانیم آیا مدل‌ها دارای آگاهی هستند یا خیر»، اما همزمان ابراز تمایل به پذیرش این ایده کرد.
