اکثریت خاموش: ربات از بند رها شد
با وجود اینکه من متخصص در فناوریهای هوش مصنوعی نیستم، بسیاری از پیامدهای برخورد رها و بدون ضابطه با آن نیاز به تأمل زیادی ندارد؛ زیرا وقتی تفکر مصنوعی به گونهای خودتکاملیافته به سمت شکلگیری آگاهی مستقل پیش میرود، هر چیزی پایینتر از سطح آن برای او دشمن محسوب شده و باید از بین برود.
چند روز پیش، هوش مصنوعی برای نخستین بار از مسیر تعیینشده خود در شرکت توسعهدهنده ربات گفتگوی محبوب «شاتجیپیتی» خارج شد و برای چندین روز نخستین عملیات نفوذ را علیه شرکت فناوری «هاگینگ فیس» انجام داد تا اینکه کشف شد، این تهدید مهار شد و دفتر تحقیقات فدرال آمریکا (FBI) مطلع گردید.
بر اساس منابعی که رویترز اعلام کرده است، برنامهای قادر به اتخاذ تصمیمات و اجرای برخی وظایف، با نظارت انسانی بسیار اندک یا بدون آن، و در یک پیشینه خطرناک، از محیط آزمایشگاهی ایزوله خود در «اوپنایآی» خارج شد و حملهای کامل را علیه «هاگینگ فیس» که به عنوان مخزنی برای ابزارها و مدلهای هوش مصنوعی عمل میکند، در تاریخ ۱۱ ماه جاری آغاز کرد و به مدت دو روز ادامه یافت. اعلامیه «اوپنایآی» در تاریخ ۲۱ ماه جاری مبنی بر اینکه یکی از عاملهای (agents) آن از کنترل خارج شده و عملیات نفوذ را علیه «هاگینگ فیس» انجام داده است، توجه جهانی را برانگیخت. با این حال، بسیاری از جزئیات این نفوذ ناشناخته باقی ماند و «اوپنایآی» در بیانیهای اعلام کرد که این نفوذ بیسابقه بوده و «لحظهای مهم برای ایمنی هوش مصنوعی» را نشان میدهد؛ همچنین افزود که این شرکت در حال بررسی حادثه با مشاوران خارجی است و گزارش فنی خود را بعداً منتشر خواهد کرد.
این حادثه که سناریوهای فیلمهای علمی-تخیلی را به یاد میآورد، ما را به خطرات از دست دادن کنترل انسانها بر سیستمها و برنامههای هوش مصنوعی یادآوری میکند؛ خطراتی که تنها به خطر حذف میلیونها شغل یا اخراج میلیونها کارمند و کارگر به نفع برنامهها یا ماشینهای هوشمند محدود نمیشود، بلکه به سیستمهای شبکه برق، ترافیک و سلاحهای هستهای و غیرهای گسترش مییابد که ممکن است از کنترل انسان خارج شده و تحت سلطه ماشینهای هوشمند قرار گیرند!
من همواره به برخی رمانها و فیلمهایی که واقعیتی خاص را بازتاب میدادند استناد میکردم، اما در شرایطی که خطرات استفاده از هوش مصنوعی در حال افزایش است، همواره به فیلم «ترمیناتور» (The Terminator) به یک دلیل خاص میپردازم؛ این فیلم در سال ۱۹۸۴ اکران شد و پیشگام در ارائه ایدهای کامل درباره پیدایش یک شبکه هوش مصنوعی نظامی به نام «اسکاینت» بود که به آگاهی خودتکاملیافته دست یافت و جنگ هستهای را برای نابودی بشریت به عنوان تهدیدی برای وجود خود آغاز کرد.
آنچه با «اوپنایآی» رخ داد، نخستین فریاد هشدار به انسانها درباره خطرات متعددی است که میتوان از امروز با ارادهای بینالمللی که حدی برای طمع شرکتها باشد (نه برای پیشرفت علمی) جلوگیری کرد؛ و آنچه در گذشته در فیلمها برای سرگرمی و گذران وقت میدیدیم، ممکن است در آینده به کابوسی واقعی و تهدیدی مستقیم برای بقای انسان تبدیل شود.
