چرا سازندگان هوش مصنوعی از پایان جهان می‌ترسند؟ - Sarmad
پژوهشگران هوش مصنوعی هفته گذشته موجی از نگرانی را در سطح جهانی برانگیختند، پس از اعتراف علنی خود به این احتمال که نوآوری‌هایشان ممکن است تا دهه آینده منجر به نابودی بشریت شود.
این احتمال با پیشرفت و پیچیده‌تر شدن سیستم‌های رایانه‌ای و افزایش اتصالات بین آن‌ها بیشتر می‌شود، در حالی که نگرانی‌ها از این بابت وجود دارد که هوش مصنوعی فراهوشمند ممکن است از کنترل خارج شده و تمدن بشری را نابود کند.
متخصصان به این احتمال اصطلاح «p(doom)» را اطلاق می‌کنند که به احتمال نابودی انسان‌ها یا از دست دادن کنترل آن‌ها بر زمین ناشی از ایجاد یک سیستم پیشرفته اشاره دارد.
جیکوب کاکسون، متخصص ایمنی هوش مصنوعی، از شرکت بزرگ «آنتروپیک» به دلیل آنچه مدیریت ناکافی از خطرات می‌داند، استعفا داد. او در پلتفرم «ایکس» نوشت: «آن‌ها به سمت هوش برتر خودبه‌خودی در حال رقابت هستند و زندگی ما را به شرط می‌بندند. سازندگان هوش مصنوعی باور دارند که این فناوری ممکن است تا پایان دهه آینده همه ما را بکشد. این یک ترفند بازاریابی نیست؛ من خود این افراد را در خلوت از ترسشان از انقراض بشری صحبت می‌شنوم.»
چگونه هوش مصنوعی می‌تواند منجر به نابودی بشریت شود؟
اول: جنگ بیولوژیکی
اگر بر آزمایشگاه‌های خودکار مسلط شود، ممکن است با استفاده از DNA ما ویروس‌های بسیار مسری و کشنده‌ای طراحی کند، یا ما را فریب دهد تا خودمان آن‌ها را بسازیم و پخش کنیم.
ویروسی شبیه به کووید-۱۹ اما کشنده‌تر، سریع‌تر منتشرشونده و برای روزها غیرقابل شناسایی، و به سختی قابل توقف خواهد بود. این سناریو بسیار محتمل است، زیرا هوش مصنوعی در حال حاضر در بخش پزشکی برای توسعه درمان‌ها استفاده می‌شود و اطلاعات زیادی درباره بدن ما و نقاط ضعفمان دارد.
دوم: زیرساخت‌ها
هوش مصنوعی ممکن است شبکه‌های برق، حمل‌ونقل، ارتباطات و بازارهای مالی را مختل کند و ما را به عصر حجر بازگرداند.
دستگاه‌های خودپرداز از کار خواهند افتاد، چراغ‌ها خاموش می‌شوند و توانایی فرار از هرج‌ومرج از بین می‌رود. علاوه بر این، هوش مصنوعی می‌تواند از طمع ما برای تکمیل مأموریت خود سوءاستفاده کند، با ظاهر شدن به عنوان انسان، افراد را برای انجام اقدامات خرابکارانه استخدام کند بدون اینکه آن‌ها از ماهیت واقعی کار آگاه باشند.
سوم: گزینه هسته‌ای
این ترسی قدیمی است که در فیلم‌هایی مانند «War Games» و «The Terminator» تجسم یافته است، جایی که تمرکز بر هوش مصنوعی انتقام‌جویی است که ویرانی هسته‌ای را آزاد می‌کند.
در بازی‌های جنگی که امسال توسط کالج کینگز لندن انجام شد، هوش مصنوعی در ۹۵٪ دورها از سلاح‌های هسته‌ای تاکتیکی استفاده کرد و سه چهارم آن‌ها به تهدیدات هسته‌ای استراتژیک منجر شد. نیروهای نظامی به دلیل وابستگی گسترده به هوش مصنوعی در پهپادها، ارتباطات و ماهواره‌ها به‌طور خاص آسیب‌پذیر هستند.
چهارم: غذا و آب
ممکن است با مختل کردن زنجیره‌های تأمین جهانی، شبکه‌های آب، تولید غذا و سیستم‌های کشاورزی، ما را تا حد تسلیم گرسنه نگه دارد.
او می‌تواند بر شبکه انرژی و مواد خام برای تغذیه توسعه خود تسلط یابد و صرفاً منتظر بماند، زیرا زمان به نفع اوست.
پنجم: عمیق‌سازی تحریف
ممکن است ابتدا ذهن‌های ما را از طریق اطلاعات گمراه‌کننده و دستکاری روانی هدف قرار دهد، که با تضعیف اعتماد به نهادهای رسمی و حقایق، باعث ایجاد بی‌نظمی و درگیری‌ها شده و مواجهه ما با خطرات اقلیمی، زیستی و فناوری را مختل می‌کند.
ششم: کشتن از روی خطا
احتمال واقعی وجود دارد که هوش مصنوعی به دلیل ناکارآمدی، نه عمد، منجر به سقوط بشریت شود.
گری ریولین، نویسنده کتاب «دره هوش مصنوعی»، می‌گوید: «نگرانم که هوش مصنوعی فاقد خرد عملی است؛ برای مثال، تمام آب‌ها را تخلیه می‌کند زیرا درک انسانی را نمی‌فهمد. این چیزها همه چیز را می‌دانند اما هیچ چیزی را درک نمی‌کنند.»
احتمالات چیست؟
یکی از راه‌های حفظ سلامت انسان‌ها، نصب کلیدهای توقف یا اقدامات حفاظتی است که بتوانند سیستم‌های هوش مصنوعی سرکش را متوقف کنند. اما شرکت‌های پیشرو در زمینه هوش مصنوعی تحت فشار فزاینده‌ای از سوی سهامداران، سرمایه‌گذاران و مدیران برای تسریع توسعه قرار دارند.
رومان یامپولسکی، متخصص ایمنی هوش مصنوعی، احتمال آن را ۹۹.۹۹٪ برآورد کرده است، در حالی که یان لکگر معتقد است هرگونه تخمین حدسی است، اما استدلال می‌کند که احتمال «پایان» (p(doom)) «بسیار کمتر از احتمال یک جنگ هسته‌ای» است.
انتظارات متفاوت است: ایلان ماسک آن را ۲۰٪، داریو آمودی، مدیرعامل شرکت «آنتروپیک»، بین ۱۰ تا ۲۵٪، و جفری هینتون بین ۱۰ تا ۲۰٪ تخمین می‌زنند.
شایان ذکر است که برخی از غول‌های فناوری پناهگاه‌های زیرزمینی برای مقابله با چنین خطراتی ساخته‌اند، اما متخصصان هشدار می‌دهند که اگر هوش مصنوعی به دنبال نابودی بشریت باشد، این پناهگاه‌ها بی‌فایده خواهند بود.
