حوادث امنیتی «عمده» هوش مصنوعی در طی دو سال

دوبلین - آسوشیتد پرس: دیمیس هاساپیس، رئیس هیئت مدیره شرکت «دیپ مایند» متعلق به گوگل، هشدار داد که سیستم‌های هوش مصنوعی ممکن است در دو سال آینده منجر به حوادث امنیتی «بزرگ» شوند، مگر اینکه اقدامات کافی برای تضمین ایمنی آن‌ها در حالی که توانایی‌هایشان ادامه دارد، اتخاذ شود.

هاساپیس در جریان سخنرانی خود در کنفرانسی درباره هوش مصنوعی در دوبلین، حوادث اخیر را «تیرهای هشداردهنده اولیه» از سوی سیستم‌هایی توصیف کرد که «هنوز به این اندازه قوی نیستند».

او گفت: «بنابراین این حوادث به این اندازه بزرگ نیستند»، اما هشدار داد که «ممکن است در سال آینده یا دو سال آینده به چنین ابعاد بزرگی تبدیل شوند، اگر تلاش بیشتری در سطح کل صنعت و همچنین توسط شرکت‌ها و دولت‌ها به صورت جداگانه برای تضمین امنیت این سیستم‌ها انجام نشود.»

نگرانی‌ها درباره ایمنی هوش مصنوعی پس از درگیر شدن مدل‌های توسعه‌یافته توسط شرکت‌های «اوپن‌ای‌آی» و «آنتروپیک» در حوادث امنیتی در مراحل آزمایش، نگرانی‌های فزاینده‌ای را ایجاد کرده است که این امر فشارها را برای تنظیم‌گری این فناوری افزایش داده است.

هاساپیس گفت که ممکن است لازم باشد مدل‌های جدید هوش مصنوعی ابتدا در «محیط‌های ایزوله» (sandbox) غیرمتصل به شبکه‌ها آزمایش شوند، پس از آنکه مدل‌های توسعه‌یافته توسط شرکت‌های دیگر توانستند از محیط‌های بسته‌ای که برای ارزیابی توانایی‌هایشان استفاده می‌شد، خارج شوند.

هینا ویرکونین، مسئول امور فناوری در اتحادیه اروپا، گفت که شرکت‌های هوش مصنوعی نیاز دارند زمان بیشتری را برای آزمایش سیستم‌های خود اختصاص دهند تا اطمینان حاصل شود که کنترل بر آن‌ها حفظ می‌شود.