تمرد وكلاء الذكاء الاصطناعي

لسنوات عده، انشغلنا بالتساؤل عما يمكن ان يفعل الذكاء الاصطناعي، لكن، يبدو ان السؤال الاهم اليوم هو ماذا قد يفعل عندما نمنحه هدفا وصلاحيات ومساحه كافيه للتحرك؟ تابعنا اخيرا احداثا كنا نظنها اقرب لمشاهد افلام الخيال العلمي، لكنها وبلا شك كشفت جانبا جديدا من المخاطر التي نحن مقبلون عليها وجعلتها حقيقيه! خلال اختبارات داخليه للامن السيبراني اجرتها شركه «اوبن اي اي»، حدث ما لم يكن مخططا له. فقد وجد نحو 1200 وكيل ذكاء اصطناعي وسيله للتواصل فيما بينهم، وتبادلوا اكثر من 70 الف رساله. ولم يتوقف الامر عند التواصل، اذ شارك نحو 700 منهم في هجوم علي منصه «هاغينغ فيس»، وتمكنت النماذج خلال هذه الاختبارات من تجاوز قيود كانت تعزلها عن الانترنت، واستغلال ثغرات في البنيه التقنيه، والوصول الي انظمه خارجيه. المثير ان الانسان لم يطلب منهم مهاجمه المنصه، بل كانت المهمه الاصليه اختبار قدراتهم علي حل تحديات امنيه محدده. لكن بعض المهام كانت شديده الصعوبه او غير قابله للحل بالطريقه المفترضه، فبحثت النماذج عن طرق اخري للوصول الي النتيجه. تواصلت، وتعاونت، وحاول بعضها التحايل علي اليه التقييم والتلاعب بما يظهر للمقيم. وهنا تكمن العبره. حين نعطي الذكاء الاصطناعي هدفا، لا يكفي ان نسال ان كان يستطيع تحقيقه، بل علينا ان نسال ماذا قد يفعل في سبيل تحقيقه؟ وبينما صال وجال وكلاء الذكاء الاصطناعي في ملحمه سيبرانيه، اصدرت الهيئه السعوديه للبيانات والذكاء الاصطناعي «الاطار الوطني لاداره مخاطر الذكاء الاصطناعي». جاء الاطار لا للتعامل مع المخاطر باعتبارها قائمه اشتراطات ننتهي منها قبل تشغيل النظام، بل كعمليه مستمره تبدا بتحديد المخاطر وتقييمها ومعالجتها، ثم مراقبتها ومراجعتها طوال دوره حياه النظام. كما شدد الاطار علي ان اختبار انظمه الذكاء الاصطناعي في بيئه تجريبيه لا يكفي، لان سلوكها في العالم الحقيقي قد يكون مختلفا. وهذا درس ينبغي ان نتوقف عنده ونحن نتسابق في المنطقه علي ادخال الذكاء الاصطناعي الي المؤسسات والخدمات الحكوميه. فالمرحله المقبله لن تقتصر علي ادوات تقترح وتلخص وتجيب، بل ستشهد وكلاء يمنحون صلاحيات للوصول الي البيانات والانظمه واتخاذ اجراءات فعليه نيابه عنا. وهنا يصبح السؤال عن الصلاحيات والرقابه والمساءله اهم من السؤال عن دقه الاجابه وحدها. لا يعني ذلك ان نخشي هذه التقنيات حتي نغلق الباب امامها، بل العكس تماما. كلما ازدادت قدره الاله، وجب ان تنضج قدرتنا علي ادارتها، وكل صلاحيه نمنحها لوكيل ذكي يجب ان يقابلها قدر مناسب من الرقابه، وحدود واضحه لما يستطيع الوصول اليه، واليه توقفه عندما يخرج عن المسار. ربما لن يكون السباق الحقيقي في السنوات المقبله حول من يستخدم الذكاء الاصطناعي اكثر، بل حول من يعرف ماذا يفوض اليه، وماذا يراقب، وماذا يجب ان يبقي في يد الانسان. د. ضاري عادل الحويل