استعفای پژوهشگر از «آنتروپیک» بحثها درباره خطرات هوش مصنوعی فراانسانی را شعلهور کرد.. پایان در سال ۲۰۳۰
پژوهشگری پیشین از شرکتهای «آنتروپیک» و «اوپنایآی» پس از اعلام استعفای خود و هشدار درباره مسابقه توسعه سیستمهای فرابینایی که ممکن است خطرات وجودی جدی به همراه داشته باشد، بحث پیرامون خطرات هوش مصنوعی پیشرفته را دوباره به کانون توجهها بازگرداند.
به گزارش رسانههای آمریکایی و بریتانیایی، جیکوب کاکسون، پژوهشگری که طی سه سال گذشته در زمینههای آموزش پیشساخته در این دو شرکت فعالیت داشته است، اعلام کرد که این شرکتها در حال رقابت برای دستیابی به سیستمهایی هستند که قادر به خودبهبودی باشند و معتقد است اقدامات ایمنی فعلی با سرعت توسعه همخوانی ندارند. وی افزود که برخی از فعالان این حوزه بهجدیت باور دارند که سیستمهای آینده ممکن است تا پایان این دهه تهدیدی برای بشریت ایجاد کنند.
هشدارهای او با حمایت ایوان هاپینگر، مسئول تحقیقات همراستایی در شرکت «آنتروپیک»، همراه شد. هاپینگر بیان کرد که تخمین شخصی او از احتمال وقوع فاجعهای وجودی ناشی از هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است و اشاره کرد که هنوز راهحل کاملی برای مسئله همراستاسازی هوش فرابینایی با منافع بشری وجود ندارد.
