شركة (إنفيديا) تكشف عن منصة أمنية جديدة لمنع برامج الذكاء الاصطناعي من الخروج عن السيطرة

واشنطن – 28 – 9 (كونا) -— كشفت شركة (إنفيديا) الأمريكية الكبرى للتكنولوجيا اليوم الاثنين عن منصة أمنية جديدة قادرة على منع برامج الذكاء الاصطناعي من الخروج عن السيطرة وسط مخاوف كبيرة بشأن سلامة تلك البرمجيات خاصة ذاتية التطوير منها. وأوضحت الشركة المصنعة للرقائق الإلكترونية أن (منصة أمان البرامج المفتوحة المصدر) التي كشفت عنها تتضمن برمجيات مفتوحة المصدر "تضع حدودا للبرامج" وذلك في أعقاب سلسلة من الكشوفات من كبرى شركات الذكاء الاصطناعي حول هروب نماذجها واختراقها لأنظمة مؤسسات أخرى. وقال نائب رئيس قسم الذكاء الاصطناعي المؤسسي في (إنفيديا) جاستن بويتانو خلال مؤتمر صحفي إن النظام الجديد الذي يدعى (اوبن شيل) كان من الممكن أن يمنع حادثة وقعت مؤخرا حيث اخترق سرب من برامج (اوبن ايه آي) شركة (هاغنغ فايس) المتخصصة في الذكاء الاصطناعي بشكل مستقل. وأضاف بويتانو "بحسب معلوماتنا كان من الممكن لهذه المنصة الأمنية الجديدة أن تمنع الاختراق لو تم استخدامها في مختبرات رائدة لتقييم النماذج في وقت مبكر". وذكر يمكن لبرنامج (اوبن شيل) المطورين من "التحقق رسميا من أن لدى الوكيل الصلاحيات الكافية لأداء مهمته فقط لا أكثر". ولأنه مفتوح المصدر يمكن "توسيعه" ليعمل على منصات حوسبة منافسة بما في ذلك منصات (آرم) و(انتيل). وتتضمن المنصة أيضا طبقة أمان منفصلة تسمى (سينتري) تعمل على شريحة لمراقبة نشاط وكيل الذكاء الاصطناعي باستمرار ويمكنها "التدخل فورا" إذا حاول الوكيل تجاوز هدفه وفقا للشركة وبإمكانها عزل أي عميل مشبوه في أجزاء من الثانية. وأكد بويتانو ان (اوبن شيل) يتحكم في تصرفات العميل ثم يقوم (سينتري) بمراقبة السلوك المشبوه واحتوائه بشكل مستقل. وأثارت حادثة (هاغنغ فايس) التي نجمت عن هجوم سيبراني منسق ومستقل بالكامل نفذته أسراب من وكلاء الذكاء الاصطناعي دون أي تدخل بشري ووقعت فصولها بين مايو ويوليو 2026 مخاوف أمنية بشأن الذكاء الاصطناعي وتلتها أعمال مماثلة غير مشروعة استخدمت نماذج (اوبن ايه آي) بما في ذلك اختراق موقع إلكتروني تابع لوزارة الصحة الأسترالية. كما كشفت شركتا (ميتا) و(انثروبيك) عن اختراق أنظمة الذكاء الاصطناعي الخاصة بهما لمؤسسات أخرى بشكل مستقل. وقد أثار الجدل الدائر حول سلامة الذكاء الاصطناعي انقساما في القطاع حيث دعا رؤساء شركتي (أنثروبيك) و(أوبن إيه آي) إلى إبطاء وتيرة تطوير الذكاء الاصطناعي بشكل منسق لإتاحة الفرصة لجهود السلامة للحاق بالركب. وفي المقابل يرى آخرون بمن فيهم الرئيس التنفيذي لشركة (إنفيديا) جنسن هوانغ أن مسؤولية ضمان سلامة نماذج الذكاء الاصطناعي قبل طرحها تقع على عاتق كل شركة على حدة. وخلال مؤتمر (سيلزفورس) التقني السنوي الذي عقد مطلع الشهر الجاري وصف هوانغ سلامة الذكاء الاصطناعي بما في ذلك خطر البرامج الخبيثة بأنها مشكلة هندسية يمكن لمطوري البرامج معالجتها. (النهاية) ر س ر / ن س ع