نگرانیها درباره توانایی هوش مصنوعی در کسب استقلال!
آندریاس دینگل، مدیر مرکز آلمانی تحقیقات هوش مصنوعی در کایزرسلاترن، از خطرات فزاینده توانمندیهای پیشرفته هوش مصنوعی هشدار داد و اشاره کرد که سیستمهای این فناوری اکنون قادر به انجام وظایف بهصورت مستقل و کشف آسیبپذیریها در سیستمهای رایانهای هستند که میتواند تهدیدی فزاینده برای امنیت سایبری و زیرساختهای حیاتی ایجاد کند.
دینگل در سخنانی که امروز توسط خبرگزاری «اسوشیتد پرس» نقل شد، گفت: «قطعاً دلایل نگرانی وجود دارد، با توجه به میزان قدرتی که ابزارهای هوش مصنوعی به دست آوردهاند.» او افزود که هوش مصنوعی دیگر صرفاً یک «ربات گفتگو» نیست که به پرسشهای انسانها پاسخ دهد.
دینگل توضیح داد که سیستمهای هوش مصنوعی میتوانند در چارچوب آنچه به عنوان محیطهای عامل شناخته میشود، «تمام توانمندیهای ادراکی خود» را به کار گیرند. وی افزود که چندین سیستم که به عنوان عاملها شناخته میشوند، میتوانند وظایف را بهصورت مستقل دنبال کرده و با یکدیگر تعامل داشته باشند. او اشاره کرد که مشکل زمانی پیش میآید که چنین سیستمی هدفی را دریافت کند که بهاندازه کافی دقیق تعریف نشده باشد یا مرزهای اخلاقی از آن غایب باشد. در این شرایط، هوش مصنوعی میتواند آسیبپذیریها و راههای میانبر را برای دستیابی به هدف خود با بیشترین میزان موفقیت پیدا کند.
