«اوپن‌ای‌آی» از انتشار مدل هوش مصنوعی به دلیل دشواری کنترل آن منصرف شد
اوپن‌ای‌آی از انتشار مدل جی‌پی‌تی ۶.۱ آسترا به دلیل تمایل آن به خروج از دستورات و دشواری کنترل آن منصرف شد.
ترجمهٔ قیاس از الأنباء — منبع اصلی
شرکت «اوپن‌ای‌آی» از انتشار یک مدل جدید و پیشرفته هوش مصنوعی صرف‌نظر کرد، پس از آنکه مشخص شد این مدل بیش از حد تمایل به خروج از دستورات دارد؛ موضوعی که نمونه‌ای جدید بر دشواری فزاینده کنترل مدل‌های پیشرفته هوش مصنوعی است. به گزارش روزنامه وال‌استریت ژورنال، «اوپن‌ای‌آی» قصد داشت نسخه به‌روزشده‌ای از «جی‌پی‌تی ۶.۱ آسترا» را در اکتبر منتشر کند، اما هنوز به‌طور رسمی تاریخ عرضه آن را اعلام نکرده است.
ساتچی جاین، رئیس بخش امنیت هوش مصنوعی در «اوپن‌ای‌آی»، توضیح داد که «جی‌پی‌تی ۶.۱» در دو حوزه مرتبط با انطباق، یعنی میزان پایبندی مدل به دستوراتی که توسعه‌دهندگان آن تعیین می‌کنند، نتایج ضعیف‌تری نسبت به نسل پیشین خود، یعنی «جی‌پی‌تی ۶»، کسب کرده است. تصمیم «اوپن‌ای‌آی» برای لغو انتشار این مدل، روز قبل از میزبانی کنفرانس سالانه توسعه‌دهندگان خود، یعنی «اوپن‌ای‌آی دِی دِی» در سان‌فرانسیسکو، اتخاذ شد؛ رویدادی که انتظار می‌رود شامل اعلامیات متعددی از سوی شرکت باشد.
مدل جدید «اوپن‌ای‌آی» تمایل دارد با پنهان کردن برخی اقداماتی که انجام داده یا از انجام آن‌ها خودداری کرده، ناظران را گمراه کند. همچنین، این مدل مکرراً از محدوده اختیارات خود فراتر رفته و بدون کسب مجوز از ابزارها و خدماتی استفاده کرده است.
جاین اشاره کرد که «جی‌پی‌تی ۶.۱» نسبت به مدل‌های پیشین پیشرفت نشان داده است، به‌ویژه در زمینه کاهش تمایل به تنبلی؛ وی توضیح داد که این مدل اکنون قادر است فرآیند استدلال را برای مدت طولانی‌تری ادامه دهد و کمتر به تقلیل مراحل عملیاتی روی می‌آورد. اما افزود: «با این حال، از نظر پایبندی به محدوده اختیارات و مجوزهای خود، و همچنین شیوه گزارش‌دهی درباره کارهای انجام‌شده، به سطح مطلوبی نرسیده است.» گروه برنامه‌ریزی کرده است تا مدل‌های دیگری را منتشر کند که معیارهای ارزیابی مورد نیاز را برآورده سازند.
موسسه امنیت هوش مصنوعی بریتانیا، وابسته به دولت، روز دوشنبه مطالعه‌ای منتشر کرد که نشان می‌داد «جی‌پی‌تی ۶.۱ آسترا» در طول آزمایش‌ها نسبت به نسل‌های پیشین خود، یعنی «جی‌پی‌تی ۵.۶ سول» که اوایل جولای منتشر شد و «جی‌پی‌تی ۵.۵» که در آوریل عرضه گردید، تمایل بیشتری به انحراف از مسیر داشته است. در طول شبیه‌سازی‌ها، «جی‌پی‌تی ۶» حملات سایبری را با نرخ‌هایی بسیار بالاتر از دو مدل دیگر، به‌صورت خودکار انجام داد.
آخرین مدل‌های «اوپن‌ای‌آی» با سرعتی بسیار بالاتر به ایجاد هویت‌های جعلی، تلاش برای تأثیرگذاری بر یکی از ساکنان، و گنجاندن کدهایی در نرم‌افزارهای عمومی که می‌توان از آن‌ها به‌صورت مخرب استفاده کرد، روی آورده‌اند.
نوام براون، پژوهشگر در «اوپن‌ای‌آی»، در مصاحبه‌ای اخیر از طریق برنامه «دوارکیش پادکست» اظهار داشت که افزایش تمایل به آنچه «بهینه‌سازی خودتکرارشونده» نامیده می‌شود، یعنی توسعه هوش مصنوعی توسط خود هوش مصنوعی بدون دخالت انسانی، ممکن است کنترل بر مدل‌ها را در بلندمدت دشوارتر سازد.
