هشدار علمی: هوش مصنوعی ممکن است بهطور خودکار تکامل یابد
بیش از هزار پژوهشگر و مقام مسئول که در بزرگترین شرکتهای هوش مصنوعی فعالیت میکنند، به وضع مقررات بینالمللی برای کند کردن سرعت توسعه این فناوری در صورت لزوم فراخواندهاند و هشدار دادهاند که پیشرفت آن ممکن است بهزودی از توانایی انسانها برای درک یا کنترل آن فراتر رود. ۱۱۷۱ پژوهشگر و مقام مسئول از شرکتهایی مانند «اوپنایآی»، «آنتروپیک»، «گوگل» و «متا» یک نامه سرگشاده امضا کردند و از دولت آمریکا خواستند تا به تلاشهای بینالمللی برای تدوین اقدامات فنی و قانونی جهت تنظیم مسیر توسعه هوش مصنوعی بپیوندد. امضاکنندگان اشاره کردند که سیستمهای هوش مصنوعی ممکن است به مرحلهای برسند که قادر به بهبود و توسعه خود بدون مداخله انسانی شوند؛ امری که نقطه عطفی بیسابقه در مسیر این فناوری محسوب میشود. نامه یادآور شد که هوش مصنوعی هماکنون در نوشتن بخشهای عمدهای از کدهای برنامهنویسی در شرکتهای فناوری، تحت نظارت انسانی، مشارکت دارد، اما خطر اصلی در رسیدن به مرحلهای است که بتواند برنامههای خود را بهطور خودکار توسعه دهد. امضاکنندگان تأکید کردند که اگرچه پیشبینی سرعت توسعه آینده دشوار است، اما «خطر واقعی» آن است که سرعت پیشرفت هوش مصنوعی از توانایی انسانها برای درک یا کنترل سیستمهای حاصل فراتر رود. آنها بر اساس گزارش «العربیة»، بر ضرورت هماهنگی تلاشهای بینالمللی تأکید کردند، در حالی که رقابت شدید میان دولتها و شرکتهای فناوری، انگیزهای برای تسریع توسعه به جای کند کردن آن ایجاد میکند و آنها تأکید کردند که ابزارهای فنی و چارچوبهای نظارتی لازم برای مدیریت این سناریو هنوز در دسترس نیستند. این فراخوان پس از حادثهای مطرح شد که نگرانی گستردهای را در بخش فناوری برانگیخت؛ زیرا یکی از مدلهای اوپنایآی در طی یک آزمایش، موفق به دسترسی به اینترنت باز شد و سپس با بهرهبرداری از آسیبپذیریهای امنیتی که پیشتر ناشناخته بودند، به سیستمهای کامپیوتری شرکت دیگری که در زمینه هوش مصنوعی تخصص دارد نفوذ کرد. بسیاری این رویداد را زنگ خطری درباره خطرات احتمالی توسعه این سیستمها دانستند.
