رئیس «آنتروپیک» خواستار کند کردن توسعه هوش مصنوعی شد؛ آلتمن و ماسک موافقت کردند

- داریو آمودی از شتاب گرفتن توانایی‌های مدل‌ها هشدار می‌دهد و بر نظارت مستقل و معیارهای بین‌المللی برای کاهش خطرات آن‌ها تأکید می‌کند

در تغییری چشمگیر در رقابت هوش مصنوعی، هشدارها درباره سرعت توسعه مدل‌های پیشرفته دیگر محدود به پژوهشگران و کارشناسان مستقل نیست؛ رئیس اجرایی شرکت «آنتروپیک»، داریو آمودی، به کندی کردن روند توسعه دعوت کرد و به سرعت این فراخوان با حمایت سام آلتمان، رئیس اجرایی شرکت «اوپن‌ای‌آی» و ایلان ماسک، میلیاردر آمریکایی، مواجه شد.

آمودی هشدار داد که سرعت پیشرفت فعلی ممکن است از توانایی شرکت‌ها و دولت‌ها برای مدیریت خطراتی که سیستم‌های پیشرفته‌تر می‌توانند تحمیل کنند، سبقت بگیرد و شرکت‌های هوش مصنوعی را به کاهش سرعت بهبود توانایی‌های مدل‌های خود فراخواند.

اخبار

اشتراک در روزنامه‌های روزانه

برنامه‌ریزی برای سفرهای فصلی

او در پستی در پلتفرم «ایکس» (توییتر سابق) نوشت که پیشرفت‌ها حتی با کند شدن روند توسعه نیز سریع باقی خواهند ماند و معتقد بود که زمان اضافی حاصل از این کندی می‌تواند صرف توسعه راهکارهای ایمنی کارآمدتر و آمادگی برای خطرات مرتبط با سیستم‌های آینده شود.

آمودی چارچوبی سه مرحله‌ای برای مقابله با شتاب توسعه هوش مصنوعی ارائه داد که با الزام شرکت‌ها به اعطای دسترسی دائمی به ارزیابان خارجی مستقل، در سطحی نزدیک به دسترسی کارکنان، آغاز می‌شود؛ این امر به آن‌ها امکان می‌دهد تا اقدامات ایمنی را بررسی کنند و میزان انطباق مدل‌ها و محیط‌های آموزشی آن‌ها با معیارهای ایمنی را ارزیابی نمایند.

مرحله دوم، هماهنگی بین شرکت‌های هوش مصنوعی فعال در کشورهای دموکراتیک برای وضع معیارهای ایمنی مشترک و محدودیت‌هایی برای سرعت توسعه توانایی‌هاست تا از تبدیل شدن رقابت به یک مسابقه که شرکت‌ها را به شتاب بخشیدن به توسعه به قیمت نادیده گرفتن اقدامات حفاظتی، جلوگیری شود.

مرحله سوم مربوط به دولت‌هاست؛ آمودی کشورهای دموکراتیک را به هماهنگی، تا حد امکان، برای وضع محدودیت‌ها و ممنوعیت‌های مشترک در برخورد با سیستم‌های پیشرفته هوش مصنوعی فراخواند.

رئیس «آنتروپیک» معتقد است که ادامه توسعه با سرعت فعلی ممکن است در مدت کوتاهی منجر به ظهور عوامل هوش مصنوعی مستقل‌تر و قادر به انجام وظایف گسترده شود و از خطرات بالقوه‌ای از جمله از دست دادن کنترل بر سیستم‌های پیشرفته، سوءاستفاده از آن‌ها در حملات سایبری، تروریسم بیولوژیکی، عملیات‌های تأثیرگذار و توسعه ابزارهای تخریب‌گر کشنده‌تر هشدار داد.

او اشاره کرد که تعدد شرکت‌ها و مدل‌ها به خودی خود ضمانت کافی برای ایمنی نیست، زیرا احتمال دارد سیستم‌های مختلف از تکنیک‌ها و روش‌های آموزشی مشابهی استفاده کنند که می‌تواند منجر به تکرار همان نقص‌ها در راهکارهای حفاظتی در بیش از یک سیستم شود.

واکنش‌ها به فراخوان آمودی سریعاً ظاهر شد؛ آلتمان با بیان اینکه «با داریو موافقم» در پستی در پلتفرم «ایکس» از این پیشنهاد حمایت کرد و توضیح داد که «اوپن‌ای‌آی» از ناظران مستقل برای بررسی ایمنی سیستم‌های خود استفاده خواهد کرد، در اقدامی مشابه تعهدی که آمودی مطرح کرده بود.

ماسک نیز موضع خود را با این جمله خلاصه کرد که «داریو درست می‌گوید» و اعلام کرد که از ضرورت کندی کردن سرعت توسعه توانایی‌های هوش مصنوعی پیشرفته حمایت می‌کند.

این همگرایی در مواضع، چند روز پس از فراخوان کریس لاهان، مسئول امور عمومی «اوپن‌ای‌آی»، برای وضع قواعد بین‌المللی که تعیین کند هوش مصنوعی باید چه زمانی و چگونه کند یا متوقف شود، رخ داد.

همزمان با فراخوان آمودی، جیکوب کوکسون، پژوهشگری که پیش‌تر در «اوپن‌ای‌آی» کار کرده بود، از شرکت «آنتروپیک» استعفا داد و از ورود شرکت‌ها به مسابقه‌ای برای توسعه سیستم‌هایی که قادر به بهبود خود هستند هشدار داد و اشاره کرد که چنین وضعیتی کنترل بر آن‌ها را دشوارتر خواهد کرد.

کوکسون هشدار داد که هوش مصنوعی ممکن است در دهه جاری تهدیدی جدی برای بشریت باشد و مسابقه‌ای را که به گفته او شرکت‌ها برای پیشی گرفتن از رقبا به قیمت نادیده گرفتن اقدامات ایمنی برگزار می‌کنند، مورد انتقاد قرار داد.

ویدیوی پیام او بیش از ۱۰۰ میلیون بازدید کسب کرد، در حالی که همکارش در «آنتروپیک»، ایوان هاپینگر، نگرانی‌های مشابهی ابراز داشت و احتمال وقوع یک فاجعه وجودی ناشی از هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد ارزیابی کرد.

این مواضع نزدیک، پرسشی را که اکنون در صنعت هوش مصنوعی به کانون بحث بازگشته است، با شدت بیشتری مطرح می‌کند: تا چه حد می‌توان سرعت توسعه مدل‌ها را افزایش داد، در حالی که شرکت‌ها و دولت‌ها همزمان در تلاشند ابزارهایی بسازند که قادر به درک خطرات این فناوری و کنترل آن باشند؟