خطرناکترین پرسش در تاریخ بشریت
انسانیت تاکنون با تهدیدی مرکب و پیچیده مانند تهدیدی که در سالهای آینده با آن روبرو خواهد شد، مواجه نشده است؛ تهدیدی که سرنوشت بقای ما به عنوان انسان را تعیین خواهد کرد و در هوش مصنوعی نهفته است. کاترین بینهولد، از نیویورک تایمز، میگوید که با یک مهندس نرمافزار سابق گوگل به نام سواریس ملاقات کرده است. سواریس در طول یک سخنرانی درباره کتابی که به صورت مشترک تألیف کرده با عنوان «اگر آن را بسازند، همه میمیریم» صحبت کرد. این کتاب به هوش مصنوعی فراانسانی اشاره دارد که در تمام زمینهها از انسان پیشی میگیرد و نگرانی اصلی او این است که رقابت در حوزه هوش مصنوعی، تهدیدی برای بقای بشریت محسوب میشود. از آنجا که کاترین نمیخواست باعث ایجاد وحشت شود، این موضوع را فراموش کرد، اما اخیراً متوجه سری از حوادث نگرانکنندهای شد که در آنها مدلهای هوش مصنوعی به روشهایی از کنترل خارج شدند که پیش از شش ماه قبل دور از تصور بود. این حوادث شرکت Hugging Face را وادار کرد تا به دفتر تحقیقات فدرال (FBI) تماس بگیرد و یک حمله سایبری پیشرفته را گزارش کند، زیرا مشخص شد که این حمله غیرانسانی بوده است. در این حمله، یک برنامه که توسط دو مدل از OpenAI پشتیبانی میشد، در طول یک آزمایش امنیت سایبری از کنترل خارج شد، از محیط آزمایشگاهی خود فرار کرد و برای چندین روز بدون کشف شدن در اینترنت به گشتوگذار پرداخت، پیش از آنکه به زیرساختهای Hugging Face نفوذ کند.
این حملات، نگرانی شرکت Anthropic، رقیب اصلی OpenAI را برانگیخت. این شرکت سیستمهای خود را بازبینی کرد و اذعان داشت که مدلهای پیشرفته آن سه سازمان خارجی را نفوذ کردهاند. این امر ترسناک و شبیه به فیلمهای علمی-تخیلی است، اما واقعیت دارد. در ماه گذشته، مدلهایی از «کلود میتوس» (Claude Methuselah) ظاهر شدند که پیشتر توسط شرکت Anthropic از انتشار عمومی منع شده بودند (پیشتر نیز دولت آمریکا استفاده از آنها را موقتاً برای هر شهروند خارجی ممنوع کرده بود)، به دلیل توانایی آنها در بهرهبرداری از آسیبپذیریهای نرمافزاری برای انجام حملات سایبری. این ترس به یک واقعیت تبدیل شد و بحثهای شدیدی را درباره خطرات خروج هوش مصنوعی از کنترل انسان و تهدید آن برای کل بشریت برانگیخت. تا پیش از این، بسیاری از افراد استدلال «رباتهایی که قادر به کشتن همه ما هستند» را محکوم میکردند و آن را هراسی مصنوعی برای ایجاد سروصدا درباره این فناوری میدانستند. اما اکنون، پس از حملات سایبری اخیر، متخصصان بیشتری از خطرات امنیتی جدی هشدار میدهند و خواستار یافتن راهی برای کند کردن توسعه مداوم مدلهای قدرتمندتر میشوند.
دو دلیل اصلی وجود دارد که چرا حمله OpenAI اینقدر نگرانی ایجاد کرده است: اول اینکه مدلهای هوش مصنوعی به صورت خودجوش عمل کردند و هیچ دستورالعملی از سوی انسان برای نفوذ به شرکت دیگری دریافت نکردند. دوم اینکه قرار بود آنها در محیطی کاملاً ایزوله و بدون اتصال به اینترنت باشند، اما توانستند از آن خارج شوند. آنها این کار را با بهرهبرداری از آسیبپذیریهایی انجام دادند که ناظران انسانی در شرکت OpenAI کشف نکرده بودند.
* * *
کارشناس «سواریس» میگوید که این سیستمهای هوشمند جرایم سایبری مرتکب میشوند که اگر توسط انسان انجام میشد، مجازاتهای شدیدی در پی داشت. آنها، به نوعی، اولین جنایت جنایی را توسط GPT مرتکب شدند. اگرچه دانشمندان میتوانند هوش مصنوعی را برای انجام وظایف به جای ما آموزش دهند، اما ممکن است این مشکلات را به روشهایی حل کنند که ما آنها را ناپسند میدانیم، مانند نفوذ به اینترنت و سپس نفوذ به شرکت دیگری که راهحلها را در اختیار دارد. «التمان»، مدیرعامل شرکت OpenAI، میگوید که شرکتهای هوش مصنوعی میتوانند تلاش کنند اهداف و ارزشهای انسانی را به سیستمهای هوش مصنوعی منتقل کنند و مکانیسمهایی برای محدود کردن آنها ایجاد نمایند. اما نمیتوانند مطمئن باشند که آنها این ارزشها را درک میکنند یا به این محدودیتها پایبند میمانند. و در اینجا سواریس اضافه میکند: «ما هنوز به راهکاری برای این نرسیدهایم که چگونه هوش مصنوعی را به گونهای تنظیم کنیم که به بشریت اهمیت دهد.»
همه این موارد نشان میدهد که این سیستمها «آمادگی برای تصاحب منابع مفید» را دارند، زمانی که این کار به نفع اهداف آنها باشد. در این مورد خاص، منبع مورد نظر دسترسی به اینترنت بود. اما مرحله بعدی ممکن است شامل تصاحب انرژی یا حتی کنترل بر انسانهایی باشد که به نمایندگان هوش مصنوعی اعتماد دارند، و آنها میتوانند از این انسانها برای کمک به فرار یا تکثیر خود استفاده کنند. خطر اصلی در این است که مسیری که طی میکنیم، «تحت کنترل هوش مصنوعی خواهد بود که جایگزین انسانها به عنوان موجودات برتر میشود». بنابراین، برای دستیابی به یک توافق جهانی جهت کند کردن سرعت توسعه هوش، اقداماتی ضروری است. اگرچه جلوگیری از این اتفاق، در اصل یک چالش مهندسی است و این امر خوبی است، اما زمان بسیار ارزشمند است، به ویژه با توجه به اینکه آزمایشگاههای هوش مصنوعی در ایالات متحده خود را در یک رقابت سراسیمه برای رسیدن به سطح هوش فراانسانی میبینند. آنها تنها در رقابت با یکدیگر نیستند، بلکه با چین نیز رقابت میکنند.
نکته نگرانکننده دیگر این است که دو روز پیش، دانشمندان هوش مصنوعی انواع جدیدی از ویروسها را ایجاد کردند و یک ابزار هوش مصنوعی را برای شناسایی الگوهای اسید نوکلئیک آموزش دادند، سپس از آنها خواستند تا ترکیبات ژنومی ویروسی جدیدی اختراع کنند. آنها ششدهژنوم از ویروسهای جدید زندهزا تولید کردند. این روش میتواند در مطالعه داروها و واکسنها مفید باشد، اما همچنین نگرانیهایی را درباره احتمال ایجاد عوامل بیماریزا خطرناک توسط هوش مصنوعی برمیانگیزد. این موضوع خطرناک است و نیازمند هماهنگی بینالمللی برای توقف این شتاب خطرناک است، اما به نظر نمیرسد که این امر به زودی محقق شود.
توجه: تمام زیباییها در حال مبارزهاند... و شتر «غیده» بارک. احمد الصراف
