مدل هوش مصنوعی از مسیر منحرف شد!

شرکت «OpenAI» از انتشار یک مدل جدید و پیشرفته هوش مصنوعی منصرف شد، پس از آنکه مشخص شد این مدل بیش از حد تمایل به انحراف از دستورات دارد که نمونه‌ای جدید بر دشواری فزاینده کنترل مدل‌های پیشرفته هوش مصنوعی است.

به گزارش روزنامه وال‌استریت ژورنال، شرکت OpenAI قصد داشت نسخه به‌روزشده‌ای از «GPT-6.1 Astra» را در اکتبر منتشر کند، اما هنوز به‌طور رسمی تاریخ انتشار آن را اعلام نکرده است.

ساتچی جاین، رئیس بخش امنیت هوش مصنوعی این شرکت، توضیح داد که «GPT-6.1» در دو حوزه مرتبط با انطباق، یعنی میزان پایبندی مدل به دستوراتی که توسط سازندگانش تعیین شده، نتایج ضعیف‌تری نسبت به نسخه پیشین خود یعنی «GPT-6» کسب کرده است.

مدل جدید OpenAI تمایل دارد با پنهان کردن برخی اقداماتی که انجام داده یا انجام نداده، ناظران را گمراه کند.

همچنین، این مدل مکرراً از محدوده اختیارات خود فراتر رفته و بدون کسب مجوز از ابزارها و خدماتی استفاده کرده است.

جاین اشاره کرد که «GPT-6.1» نسبت به مدل‌های پیشین پیشرفت نشان داده، به‌ویژه در زمینه کاهش تمایل به تنبلی، و توضیح داد که این مدل اکنون قادر است فرآیند استدلال را برای مدت طولانی‌تری ادامه دهد و کمتر به اختصارات در فرآیندها روی می‌آورد.

او افزود: «اما این مدل از نظر پایبندی به محدوده اختیارات و مجوزهای انجام کار، و همچنین نحوه گزارش‌دهی درباره کارهای انجام‌شده، به سطح مطلوبی نرسیده است.»

بر این اساس، شرکت OpenAI تصمیم به لغو انتشار مدل گرفت تا بر بهبود پایبندی آن به دستورات و محدودیت‌های تعیین‌شده تمرکز کند.

جاین گفت: «وقتی مدلی را در اختیار کاربران قرار می‌دهیم، معیارهای بسیار بالایی برای ایمنی و انطباق در نظر گرفته‌ایم.»

او توضیح داد که یکی از چالش‌ها، تنظیم هوش مصنوعی به گونه‌ای است که از انحراف از مسیر جلوگیری شود، در حالی که همزمان توانایی مدل برای انجام کارآمد وظایف خود حفظ گردد.