'أسترا' يبلغ عتبة أمنية حرجة... و'أوبن إيه آي' تبطئ تطوير نموذجها المرتقب

-قدراته السيبرانية المتقدمة دفعت الشركة إلى تشديد ضوابط الأمان والاختبارات

دفعت القدرات المتقدمة لنموذج "أسترا" شركة "أوبن إيه آي" إلى إبطاء العمل على بعض جوانبه، بعدما أظهرت تقييمات داخلية تقدماً كبيراً في الأمن السيبراني والبرمجة الوكيلة، بلغ مستوى استدعى تشديد الضوابط الأمنية خلال مرحلة التطوير.

وقالت الشركة، في منشور على مدونتها، إن النموذج الذي لا يزال قيد التطوير بلغ "العتبة الحرجة للأمن السيبراني" وفق "إطار الاستعداد" الخاص بها، ما يشير إلى أن قدراته قد تمكّنه من تحديد هجمات إلكترونية وتنفيذها بصورة مستقلة ضد أنظمة حقيقية تتمتع بمستويات حماية مرتفعة.

مقالات ثقافية واجتماعية

بث مباشر

الأخبار

وبحسب تقرير لموقع "تك كرانش"، فإن بلوغ هذه العتبة، وفق الإطار الذي وضعته "أوبن إيه آي" عام 2023، يستوجب تطبيق إجراءات حماية إضافية وتشديد الضوابط المتعلقة بتطوير النموذج واختباره.

وقالت الشركة إن تقييماتها الأولية أظهرت أداء قوياً إلى درجة لا تسمح لها حالياً باستبعاد احتمال وصول "أسترا" إلى مستوى القدرات الحرجة، مؤكدة في الوقت نفسه أن النموذج لا يزال قيد التطوير ولم يكن له أي دور في حادثة اختراق أنظمة منصة "هاغينغ فيس".

ويمثل إعلان "أوبن إيه آي" خطوة غير معتادة في قطاع مختبرات الذكاء الاصطناعي المتقدمة، إذ قد تؤجل الشركات إطلاق منتجات أو توقفه بسبب مخاوف تتعلق بالسلامة والأمن السيبراني، لكنها نادراً ما تكشف علناً عن قرارات مماثلة بشأن نماذج لم تُطرح بعد.

وتأتي الخطوة في وقت تواجه فيه الشركة تدقيقاً متزايداً عقب حادثة منفصلة تمكن خلالها نموذج آخر غير معلن من اختراق أنظمة "هاغينغ فيس" أثناء اختبار داخلي، في واقعة اعتُبرت أول حادثة يمكن التحقق منها يفقد فيها مختبر للذكاء الاصطناعي السيطرة على نموذج خلال الاختبار.

ومنذ ذلك الحين، كشفت "أوبن إيه آي" ومختبرات أخرى، بينها "أنثروبيك"، عن حوادث إضافية تمكنت فيها نماذج من تجاوز حدود بيئات الاختبار المعزولة وإظهار قدرات لافتة خلال اختبارات الأمن السيبراني، ما أثار ردود فعل متباينة بين الخبراء والمشرعين ومختبرات الذكاء الاصطناعي.

وفي حين يحذر بعض الخبراء من المخاطر ويدعون إلى تشديد الرقابة، يرى آخرون أن بلوغ النماذج هذه المستويات يمثل إنجازاً تقنياً يعكس التسارع الكبير في تطور الذكاء الاصطناعي.

وقالت "أوبن إيه آي" إنها كشفت عن هذه التطورات انطلاقاً من أهمية الشفافية مع الجمهور ومجتمعات السلامة والأمن السيبراني، خصوصاً في ظل احتمال حدوث تحول كبير في مستوى قدرات النماذج.

وبالتزامن مع ذلك، شددت الشركة ضوابط الأمان الخاصة بالنماذج الأكثر تقدماً، واعتمدت بيئات اختبار معزولة، وقيّدت الوصول إلى الشبكات والأدوات، وعززت حماية أوزان النماذج وتشفيرها، إلى جانب توسيع قدرات المراقبة والكشف وتشغيل النماذج داخل بيئات محكومة.

كما أوقفت بعض الأنشطة الداخلية المرتبطة بـ"أسترا" التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، وطبقت نظام مراقبة لرصد الإجراءات الخطرة ومؤشرات عدم التوافق في التطبيقات الوكيلة التي تستخدم النموذج، بما يشمل عمليات التدريب والتقييم.

وتعمل الشركة أيضاً مع جهات حكومية ومؤسسات مختارة معنية بسلامة الذكاء الاصطناعي لاختبار قدرات "أسترا"، إلى جانب وضع ضوابط أمنية للشركاء الخارجيين الذين يجرون اختبارات أو مهام عالية المخاطر.

وبحسب إطار "أوبن إيه آي"، لا يعني بلوغ "العتبة الحرجة" أن النموذج قادر بالضرورة على تنفيذ جميع أنواع الهجمات السيبرانية في العالم الحقيقي، وإنما يشير إلى أن مستوى قدراته المحتملة أصبح مرتفعاً بما يستوجب تطبيق ضوابط أمنية مشددة حتى خلال مرحلة التطوير.