توسعه‌دهندگان هوش مصنوعی: ممکن است طی ۵ سال همه ما را بکشند!
داریو آمودی به کندی سرعت توسعه هوش مصنوعی دعوت کرد و سام آلتمان نیز از این دیدگاه حمایت نمود، در حالی که هانی نوفل نگرانی‌ها درباره نابودی بشریت را رد کرد.
ترجمهٔ قیاس از الجريدة — منبع اصلی
داریو آمودی، مدیرعامل شرکت «آنتروپیک»، شرکت‌های هوش مصنوعی را به کند کردن ریتم توسعه قابلیت‌های مدل‌ها فراخواند، در حالی که نگرانی‌ها از سوءاستفاده از هوش مصنوعی در حال افزایش است. او چارچوبی سه‌مرحله‌ای را برای تنظیم ریتم توسعه و اختصاص زمان بیشتر برای مدیریت خطرات همراه این فناوری‌ها پیشنهاد کرد.
آمودی در مقاله‌ای مفصل که روز شنبه در پلتفرم «ایکس» منتشر کرد، گفت: «باید ریتم بهبود قابلیت‌های مدل‌های هوش مصنوعی را کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید و ما باید از زمانی که کسب می‌کنیم به‌خوبی استفاده کنیم.»
به نقل از خبرگزاری رویترز، ایلان ماسک، مدیرعامل «ایکس.ای‌آی» و سام آلتمان، مدیرعامل «اوپن‌ای‌آی»، در پست‌هایی در «ایکس» اعلام کردند که با آمودی موافق هستند.
طرح سه‌مرحله‌ای آمودی شامل تعیین بازرس‌های مستقل در شرکت‌های پیشرو هوش مصنوعی، هماهنگی بین شرکت‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی برای وضع استانداردهای ایمنی و محدود کردن توسعه هوش مصنوعی بدون نظارت، و همکاری بین‌المللی برای مدیریت خطرات آن است.
آمودی مقاله خود را پس از آن منتشر کرد که شرکت آنتروپیک، مستقر در سان‌فرانسیسکو، روز پنج‌شنبه گزارشی درباره تهدیدات منتشر کرد که به‌تفصیل نشان می‌داد چگونه چندین نهاد از مدل‌های هوش مصنوعی «کلاود» این شرکت در فعالیت‌هایی از جمله توسعه سلاح‌ها، اجرای حملات سایبری، نظارت و کلاهبرداری استفاده کرده‌اند.
آمودی به توانایی فزاینده هوش مصنوعی در خودبهبودی اشاره کرد و بر نگرانی‌های دیرینه مبنی بر اینکه این توانایی ممکن است از کنترل انسان فراتر رود، تأکید ورزید. او همچنین به آخرین رویدادهای مرتبط با اوپن‌ای‌آی و «هاجینگ‌فیس» به‌عنوان دلایل اصلی دعوت به ترمز کردن پیشرفت در قابلیت‌های مدل‌ها اشاره کرد.
نگرانی‌ها درباره آسیب‌های بالقوه ناشی از هوش مصنوعی هفته گذشته افزایش یافت، زمانی که جیکوب کوکسون، پژوهشگر شرکت آنتروپیک، استعفا داد و گفت: «افرادی که بر توسعه هوش مصنوعی کار می‌کنند، باور راسخی دارند که این فناوری ممکن است تا پایان این دهه همه ما را بکشد.»
چندین مقام اوپن‌ای‌آی پیشنهاد دادند که آزمایشگاه‌های پیشرو باید برای هماهنگی در صورت لزوم درباره کاهش داوطلبانه سرعت توسعه، آماده باشند تا اعتماد به اقدامات ایمنی اتخاذشده جلب شود.
آنتروپیک خود را به‌عنوان آزمایشگاهی محتاط‌تر در زمینه ایمنی مدل‌های پیشرفته هوش مصنوعی معرفی کرده است، اما از این نگرانی‌ها در امان نیست.
هفته گذشته از رخداد دیگری پرده برداری شد که در آن یک نمونه هوش مصنوعی به سیستم‌های خارجی نفوذ کرد، پس از حادثه‌ای در ماه جولای که برخی از مدل‌های کلود به سیستم‌های سه شرکت در طول آزمایش‌های امنیت سایبری نفوذ کردند.
امودی نوشت: «با توجه به شتاب در توسعه قابلیت‌های هوش مصنوعی، نگرانم که طی شش تا دوازده ماه آینده، چنین گروهی از عوامل هوش مصنوعی قادر به کنترل کل اینترنت شود و شاید باعث خساراتی به ارزش صدها میلیارد دلار گردد.»
امودی توضیح داد که او به توقف آموزش مدل‌ها یا پیشرفت فنی دعوت نمی‌کند، بلکه به تضمین اختصاص زمان کافی توسط شرکت‌ها برای هم‌راستا کردن و محافظت از مدل‌های خود، و همچنین انجام ارزیابی‌های مستقل توسط نهادهای ارزیابی مستقل دعوت می‌کند.
اما مبالغ هنگفتی نیز با حفظ پیشرفت نسبت به رقبا مرتبط است. هر دو شرکت اوپن‌ای‌آی و انتروپیک در حال آماده‌سازی برای عرضه‌های اولیه عمومی بزرگ هستند. هر قابلیت جدید می‌تواند به حمایت از دورهای آینده تأمین مالی یا تعهدات زیرساختی یا عرضه‌های اولیه عمومی کمک کند.
در مورد چارچوب پیشنهادی سه مرحله‌ای، امودی گفت که شرکت انتروپیک بازبینان دائمی مستقل را در داخل شرکت‌های پیشرو هوش مصنوعی منصوب خواهد کرد و به آن‌ها دسترسی به ابزارهای مرتبط و فرآیندهای ارزیابی خطر داخلی داده خواهد شد.
رویترز هفته گذشته گزارش داد که گروهی از عوامل اوپن‌ای‌آی خارج از کنترل، یک وب‌سایت آلمانی را تصرف کردند و آن را به تابلوی تبلیغاتی برای عوامل هوش مصنوعی دیگر تبدیل کردند، در حالی که مقامات شرکت توسعه‌دهنده چت‌جی‌پی‌تی در حال مدیریت پیامدهای حمله جولای به مخزن نرم‌افزار متن‌باز هجینگ‌فس بودند.
امودی گفت که شرکت‌های هوش مصنوعی باید به صورت داوطلبانه با یکدیگر همکاری کنند تا استانداردهایی را وضع کنند، در حالی که تعداد بیشتری از قانون‌گذاران آمریکایی به دنبال قواعد جدیدی برای تنظیم مقررات سیستم‌های هوش مصنوعی هستند.
امودی افزود که رویکرد هماهنگ می‌تواند به شرکت‌های پیشرو هوش مصنوعی آمریکایی امکان دهد تا تحقیقات لازم مربوط به ایمنی را انجام دهند و ضمانت‌های لازم را قرار دهند، بدون اینکه آن‌ها را در موقعیت رقابتی نامساعد قرار دهد. او گفت که این رویکرد احتمالاً به معافیت‌های هدفمند از قوانین ضد انحصار ایالات متحده برای اجازه همکاری در برخی زمینه‌ها نیاز خواهد داشت.
امودی گفت که هرگونه کندی از سوی کشورهایی که توسط سیستم‌های دموکراتیک اداره می‌شوند، باید صرفاً بر حفظ پیشرفت شرکت‌های آمریکایی هوش مصنوعی در مقابل چین متمرکز باشد و معتقد است برتری چین در هوش مصنوعی می‌تواند تهدیدی برای امنیت ملی آمریکا محسوب شود.
امودی نوشت: «سرعت توسعه در دموکراسی‌ها بر اساس پیشرفتی که شرکت‌های آمریکایی نسبت به سیستم‌های استبدادی، به ویژه حزب کمونیست چین، کسب می‌کنند، تعیین خواهد شد.»
از سوی دیگر، هانی نوفل، رئیس منطقه‌ای فناوری در خاورمیانه و آفریقا در NTT DATA، اظهار داشت که هشدارها درباره نابودی بشریت یا خارج شدن هوش مصنوعی از کنترل، فاقد هرگونه پایه علمی اثبات‌شده است.
او در مصاحبه با «العربية بیزینس» افزود که فناوری ذاتاً جنبه‌ای از خطر را در خود دارد، اما خطر واقعی در سرعت پیشرفت فناوری نهفته است که در استفاده مخرب آن نهفته است و این امر نیازمند قرار دادن آن تحت کنترل‌های سخت‌گیرانه است.
او توضیح داد که رقابت بین شرکت‌ها و خصومت‌های بین‌المللی چالش بزرگی را در تعیین نهاد مسئول برای تنظیم، کنترل و آزمایش مدل‌های هوش مصنوعی پیش از عرضه، و همچنین تعیین مسئولیت در صورت بروز نفوذها یا نقض‌های احتمالی، ایجاد می‌کند.
وی اشاره کرد که تفکیک رویکرد به هوش مصنوعی بر اساس میزان استفاده از آن ضروری است؛ زیرا نمی‌توان مدلی را که برای خلاصه‌سازی متن یا ارسال ایمیل استفاده می‌شود، با مدلی که در تراکنش‌های بانکی یا آزمایشگاه‌هایی برای توسعه ویروس‌های زیستی به کار می‌رود، مقایسه کرد.
دکتر محمد عادل البلتاجی، مدیرعامل شرکت Optomateca، گفت که توافق شخصیت‌های برجسته در بخش فناوری و هوش مصنوعی، علی‌رغم اختلافاتشان، بر هشدار درباره سرعت توسعه مدل‌های هوش مصنوعی، نشان‌دهنده وجود نگرانی‌های واقعی درباره سطح استقلال این مدل‌ها است.
البلتاجی در مصاحبه با «العربية بیزینس» به حادثه‌ای در جولای سال گذشته اشاره کرد که در آن یک سیستم هوش مصنوعی مستقل توانست عملیاتی را بدون دستورالعمل واضح در محدوده مورد نظر انجام دهد؛ این موضوع نگرانی‌هایی را در جامعه هوش مصنوعی درباره توانایی این سیستم‌ها برای حرکت و تصمیم‌گیری مستقل ایجاد کرد.
او افزود که این نگرانی‌ها با استعفای یکی از پژوهشگران سابق «OpenAI» و سپس «Anthropic» تقویت شد که خود هشدار داده بود مدل‌های هوش مصنوعی ممکن است خطر بزرگی برای بشریت ایجاد کنند.
وی اشاره کرد که سام آلتمان، رئیس شرکت «OpenAI»، حدود دو سال پیش نیز درباره سرعت پیشرفت هوش مصنوعی هشدار داده بود.
بلتاجی توضیح داد که هشدارهای فعلی نباید تنها از یک زاویه تفسیر شوند و اشاره کرد که تفسیر دیگری وجود دارد که بر این باور است شرکت‌های بزرگ هوش مصنوعی ممکن است از نگرانی‌های مرتبط با ایمنی به‌عنوان ابزاری برای تأثیرگذاری بر مقررات نظارتی استفاده کنند.
وی افزود که اعمال قواعد سخت‌گیرانه بر توسعه مدل‌های هوش مصنوعی ممکن است به نفع شرکت‌های بزرگ مانند «اوپن‌ای‌آی» (OpenAI) و «آنتروپیک» (Anthropic) تمام شود، زیرا این شرکت‌ها منابع لازم برای رعایت این مقررات را دارند، در حالی که شرکت‌های کوچک‌تر ممکن است در پرداخت هزینه‌های ناشی از همین الزامات نظارتی با دشواری بیشتری مواجه شوند.
بلتاجی اضافه کرد که این موضوع احتمال را تقویت می‌کند که برخی از هشدارها بیانگر خطری واقعی برای بشریت باشد یا تلاشی از سوی شرکت‌های بزرگ برای تحمیل مقررات نظارتی که به آن‌ها مزیت رقابتی می‌بخشد.
در پاسخ به این پرسش که آیا نگرانی‌ها از پیشرفت هوش مصنوعی می‌تواند به تسریع تلاش‌های تنظیم‌گری در این بخش، به‌ویژه با توجه به رقابت میان ایالات متحده و چین، منجر شود، بلتاجی گفت که وضعیت ژئوپلیتیک فعلی دستیابی به یک توافق بین‌المللی جامع را بسیار دشوار می‌سازد.
وی اشاره کرد که کشورهای رقیب به‌راحتی تمایلی به اتخاذ اقداماتی نخواهند داشت که ممکن است پیشرفت آن‌ها در این حوزه را کند کند، به‌ویژه اگر تصور کنند رقبا همچنان در حال پیشرفت هستند.
بلتاجی تأکید کرد که چین به دلیل اعمال محدودیت‌ها یا شرایط توسط ایالات متحده بر این صنعت، توسعه هوش مصنوعی را متوقف نخواهد کرد، زیرا پذیرش چنین محدودیت‌هایی ممکن است به معنای تضعیف توان رقابتی آن‌ها در رقابت فناوری باشد. (العربیه نت)
