«حوادث الذكاء الاصطناعي ستقع» ودعوة للتعامل معها كحوادث الطيران!
مع تسارع تطوير أنظمة الذكاء الاصطناعي، رأى الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان أن منع جميع الحوادث قد لا يكون ممكنا لكن طريقة التعامل معها هي التي ستحدد مدى أمان هذه التكنولوجيا.
وقال ألتمان، خلال مؤتمر «دريم فورس» الذي نظمته شركة «سيلزفورس» في سان فرانسيسكو، ان «قدرا من الحوادث لا يمكن تجنبه مع أي تقنية جديدة»، داعيا قطاع الذكاء الاصطناعي إلى بناء ثقافة سلامة تشبه تلك المعتمدة في الطيران.
وأوضح أن حوادث الطائرات لا تخفى أو تعامل بوصفها إخفاقات منفصلة بل تخضع لتحقيقات دقيقة لمعرفة أسبابها وتعميم الدروس المستفادة منها. وبمرور الوقت، أسهم هذا النهج في جعل السفر الجوي أكثر أمانا.
وبالمثل، يفترض أن تبلغ شركات الذكاء الاصطناعي بشفافية عن إخفاقات أنظمتها، وأن تتبادل المعلومات حول الثغرات والسلوكيات غير المتوقعة، بدلا من إخفائها بدافع المنافسة أو الخوف على السمعة.
ولم يكن ألتمان يدعو إلى تقبل الأضرار، بل إلى الاعتراف بإمكان وقوع أخطاء والاستعداد لها قبل أن تتسع آثارها.كما أقر بأن مخاوف الجمهور من فقدان السيطرة على الأنظمة المتقدمة أو تركز القوة لدى عدد محدود من الشركات مخاوف مشروعة.
وتأتي تصريحاته وسط خلاف متزايد داخل قطاع التقنية بين من يطالبون بإبطاء تطوير الأنظمة الأقوى، ومن يرون أن الابتكار يمكن أن يستمر بالتوازي مع تحسين إجراءات السلامة والرقابة.
