«حوادث هوش مصنوعی رخ خواهد داد» و فراخوان به برخورد با آنها مانند حوادث هواپیما!
با توجه بهشت زایی سیستمهای هوش مصنوعی، سام آلتمن، مدیرعامل شرکت «اوپنایآی»، معتقد است که جلوگیری از تمام حوادث ممکن نیست، اما شیوه برخورد با آنها تعیینکننده میزان ایمنی این فناوری خواهد بود.
آلتمن در جریان کنفرانس «دِرِم فورس» که توسط شرکت «سیلزفورس» در سانفرانسیسکو برگزار شد، اظهار داشت که «بخشی از حوادث با هر فناوری جدیدی اجتنابناپذیر است» و از صنعت هوش مصنوعی خواست تا فرهنگی از ایمنی را بسازد که مشابه رویکرد پذیرفتهشده در صنعت هوانوردی باشد.
او توضیح داد که حوادث هواپیما نه پنهان میشوند و نه بهعنوان شکستهای مجزا تلقی میشوند، بلکه تحت بررسیهای دقیق قرار میگیرند تا علل آنها شناسایی و درسهای آموختهشده از آنها بهطور گسترده در دسترس قرار گیرد. با گذشت زمان، این رویکرد به ایمنتر شدن سفرهای هوایی کمک کرده است.
به همین ترتیب، شرکتهای هوش مصنوعی باید با شفافیت درباره ناکامیهای سیستمهای خود گزارش دهند و اطلاعات مربوط به آسیبپذیریها و رفتارهای غیرمنتظره را با یکدیگر به اشتراک بگذارند، بهجای پنهانسازی آنها بهدلیل رقابت یا نگرانی از آسیب به اعتبار.
آلتمن به پذیرش خسارتها دعوت نمیکرد، بلکه بر پذیرش احتمال وقوع خطاها و آمادگی برای آنها پیش از گسترش پیامدهایشان تأکید داشت. او همچنین اذعان کرد که نگرانیهای عمومی از از دست دادن کنترل بر سیستمهای پیشرفته یا تمرکز قدرت در دست تعداد محدودی از شرکتها، نگرانیهای مشروعی هستند.
این اظهارات در حالی مطرح میشود که اختلافنظر فزایندهای در صنعت فناوری بین کسانی که خواستار کندتر کردن توسعه سیستمهای قدرتمندتر هستند و کسانی که معتقدند نوآوری میتواند همزمان با بهبود اقدامات ایمنی و نظارت ادامه یابد، وجود دارد.
