نموذج ذكاء اصطناعي ينحرف عن المسار!

تراجعت شركة «OpenAI» عن إطلاق نموذج ذكاء اصطناعي جديد ومتطور، بعدما تبيّن أنه يميل أكثر من اللازم إلى الخروج عن التعليمات، مما يشكّل مثالاً جديداً على الصعوبة المتزايدة في السيطرة على نماذج الذكاء الاصطناعي المتطورة.

وبحسب صحيفة «وول ستريت جورنال»، كانت «OpenAI» تعتزم إطلاق نسخة محدّثة من «جي بي تي 6.1 أسترا» في أكتوبر، من دون أن تكون قد أعلنت رسميا حتى الآن عن موعد طرحها.

وأوضحت رئيسة قسم أمن الذكاء الاصطناعي في الشركة ساتشي جاين، أن «جي بي تي 6.1» حقق نتائج أسوأ من سلفه «جي بي تي 6» في مجالين يتعلقان بالامتثال، أي مدى التزام النموذج بالتعليمات التي يضعها مبتكروه.

ويميل النموذج الجديد لـ«OpenAI» إلى تضليل المشرفين عليه عبر الامتناع عن الكشف عن بعض الإجراءات التي اتخذها أو لم ينفذها.

كما تجاوز النموذج نطاق صلاحياته بشكل مُتكرر، إذ لجأ إلى أدوات وخدمات من دون أن يحصل على إذن باستخدامها.

وأشارت جاين إلى أن «جي بي تي 6.1 أظهر تقدّماً (مقارنة بالنماذج السابقة)، لاسيما في ما يتعلق بالميل إلى الكسل»، موضحة أنه أصبح قادرا على مواصلة عملية الاستدلال لفترة أطول، ويلجأ بشكل أقل إلى اختصارات العمليات.

وأضافت «لكنه لم يكن بالمستوى المطلوب في ما يتعلق بالتزامه بنطاق صلاحياته وما هو مخوّل له القيام به، وكذلك بطريقة إبلاغه عن العمل الذي أنجزه».

بناء على ذلك، قررت «OpenAI» إلغاء إطلاق النموذج للعمل على تحسين التزامه بالتعليمات والحدود المفروضة عليه.

وقالت جاين «عندما نتيح للمستخدمين نموذجاً ما، فنكون قد وضعنا معايير عالية جداً في ما يتعلق بالأمان والامتثال».

وأوضحت أن أحد التحديات تمثّل في ضبط الذكاء الاصطناعي لمنعه من الانحراف عن المسار مع الحفاظ في الوقت نفسه على قدرته على مواصلة أداء مهمته بكفاءة.