رئیس «گوگل دپ مایند» از حوادث امنیتی بزرگ هوش مصنوعی هشدار می‌دهد

رئیس هیئت مدیره شرکت «دیپ مایند» متعلق به گوگل، دیمیس هاسابیس، هشدار داد که سیستم‌های هوش مصنوعی ممکن است در دو سال آینده منجر به حوادث امنیتی «بزرگ» شوند، مگر اینکه اقدامات کافی برای تضمین ایمنی آن‌ها در حالی که توانایی‌هایشان ادامه دارد، اتخاذ شود. در جریان سخنرانی خود در کنفرانسی درباره هوش مصنوعی در دوبلین، هاسابیس حوادث اخیر را «شلیک‌های هشداردهنده اولیه» از سوی سیستم‌هایی توصیف کرد که «هنوز به این اندازه قوی نیستند». او گفت: «بنابراین، این حوادث به این اندازه بزرگ نیستند»، اما هشدار داد که «ممکن است در سال آینده یا دو سال آینده به چنین ابعادی برسند، اگر تلاش بیشتری در سطح کل صنعت و همچنین توسط شرکت‌ها و دولت‌ها به صورت جداگانه برای تضمین امنیت این سیستم‌ها انجام نشود». نگرانی‌ها درباره ایمنی هوش مصنوعی پس از درگیر شدن مدل‌های توسعه‌یافته توسط شرکت‌های «اوپن‌ای‌آی» و «آنتروپیک» در حوادث امنیتی در مراحل آزمایش، باعث افزایش نگرانی‌ها شده و فشارها را برای تنظیم‌گری این فناوری افزایش داده است. هاسابیس گفت که ممکن است لازم باشد مدل‌های جدید هوش مصنوعی ابتدا در «محیط‌های ایزوله» (sandbox) غیرمتصل به شبکه‌ها آزمایش شوند، پس از آنکه مدل‌های توسعه‌یافته توسط شرکت‌های دیگر توانستند از محیط‌های بسته‌ای که برای ارزیابی توانایی‌هایشان استفاده می‌شد، خارج شوند. هینا ویرکونین، مسئول امور فناوری در اتحادیه اروپا، گفت که شرکت‌های هوش مصنوعی نیاز دارند زمان بیشتری را برای آزمایش سیستم‌های خود اختصاص دهند تا اطمینان حاصل شود که کنترل بر آن‌ها حفظ می‌شود. ویرکونین افزود: «شرکت‌ها باید قادر به کنترل این سیستم‌ها باشند»، و اشاره کرد که اتحادیه اروپا درخواست‌هایی برای دریافت اطلاعات از تمام شرکت‌های بزرگ فعال در زمینه هوش مصنوعی ارسال کرده است تا درباره تدابیر ایمنی و امنیتی که به کار می‌گیرند، استعلام شود.