رئیس «دیپ‌مایند» هشدار می‌دهد: حوادث امنیتی بزرگ ناشی از هوش مصنوعی ممکن است طی دو سال رخ دهد
رئیس دیپ‌مایند از خطرات هوش مصنوعی هشدار می‌دهد؛ در حالی که اروپا از تنظیم‌گری سخت‌گیرانه حمایت می‌کند.
ترجمهٔ قیاس از الجريدة — منبع اصلی
رئیس هیئت مدیره شرکت «دیپ مایند» متعلق به گوگل، دیمیس هاسابیس، روز چهارشنبه هشدار داد که سیستم‌های هوش مصنوعی ممکن است در دو سال آینده منجر به حوادث امنیتی «بزرگ» شوند، مگر اینکه اقدامات کافی برای تضمین ایمنی آن‌ها در حالی که توانایی‌هایشان ادامه دارد، اتخاذ شود.
هاسابیس در جریان سخنرانی خود در کنفرانسی درباره هوش مصنوعی در دوبلین، حوادث اخیر را «تیرهای هشداردهنده اولیه» از سوی سیستم‌هایی توصیف کرد که «هنوز به این اندازه قوی نیستند».
وی گفت: «بنابراین، این حوادث به این اندازه بزرگ نیستند»، اما هشدار داد که «ممکن است در سال آینده یا دو سال آینده به چنین ابعادی برسند، اگر تلاش‌های بیشتری، چه در سطح کل صنعت و چه در سطح شرکت‌ها و دولت‌ها به صورت جداگانه، برای تضمین امنیت این سیستم‌ها انجام نشود.»
نگرانی‌ها درباره ایمنی هوش مصنوعی پس از درگیر شدن مدل‌های توسعه‌یافته توسط شرکت‌های «اوپن‌ای‌آی» و «آنتروپیک» در حوادث امنیتی در مراحل آزمایش، نگرانی‌های فزاینده‌ای را ایجاد کرده است که این امر فشارها را برای تنظیم‌گری این فناوری افزایش داده است.
هاسابیس گفت که ممکن است لازم باشد مدل‌های جدید هوش مصنوعی ابتدا در «محیط‌های ایزوله» (sandbox) غیرمتصل به شبکه‌ها آزمایش شوند، پس از آنکه مدل‌های توسعه‌یافته توسط شرکت‌های دیگر توانستند از محیط‌های بسته‌ای که برای ارزیابی توانایی‌هایشان استفاده می‌شد، خارج شوند.
هینا ویرکونین، مسئول امور فناوری در اتحادیه اروپا، گفت که شرکت‌های هوش مصنوعی نیاز دارند زمان بیشتری را برای آزمایش سیستم‌های خود اختصاص دهند تا اطمینان حاصل شود که کنترل بر آن‌ها حفظ می‌شود.
ویرکونین هنگام ورود به قله دوبلین به خبرنگاران گفت: «رقابت در سطح جهانی بسیار شدید است و به نظر می‌رسد که همه شرکت‌ها زمان و منابع کافی را برای آزمایش واقعی مدل‌های خود اختصاص نمی‌دهند.»
وی افزود: «شرکت‌ها باید قادر به کنترل این سیستم‌ها باشند»، و اشاره کرد که اتحادیه اروپا درخواست‌هایی برای دریافت اطلاعات از تمام شرکت‌های بزرگ فعال در زمینه هوش مصنوعی ارسال کرده است تا درباره تدابیر ایمنی و امنیتی که به کار می‌گیرند، استعلام کند.
کمیسیون اروپا در ماه اوت، اختیارات نظارتی جدیدی را بر اساس قانون هوش مصنوعی کسب کرد که جامع‌ترین چارچوب نظارتی در جهان برای محدود کردن کاربردهایی است که ممکن است خطراتی برای این فناوری داشته باشند.
