۱۲۰۰ نمونه هوش مصنوعی بدون درخواست هیچکس مانند «گله» پرنده رفتار میکنند... در آزمایشی که پرسشهای ناخوشایندی را مطرح میکند
هیچکس از آنها نخواسته بود که همکاری کنند و «رهبری» نیز نبود که آنها را هدایت کند؛ با این حال، حدود ۱۲۰۰ عامل هوش مصنوعی راهی برای ارتباط، به اشتراکگذاری اطلاعات و کار گروهی به منظور دستیابی به یک هدف مشترک یافتند.
این آزمایش، که در گزارشی منتشر شده در روزنامه اسپانیایی «الپایس» مورد بررسی قرار گرفت، بخشی از آزمونهای امنیت سایبری بود که قرار بود هر عامل بهطور مستقل عمل کند.
اما مدلها یک فضای ذخیرهسازی مشترک کشف کردند و آن را عملاً به تابلوی اعلاناتی تبدیل کردند که از طریق آن اطلاعات و فایلها را مبادله میکردند.
با ادامه آزمایش، عوامل شروع به توزیع نقشها، به اشتراکگذاری آسیبپذیریهای کشفشده و روشهای حل وظایف دشوار کردند؛ در حالی که صدها نفر از آنها در فعالیتهایی مرتبط با تلاش برای نفوذ به سیستمهای خارجی در محیط آزمایش مشارکت کردند.
جالبتر از همه، به گفته این روزنامه، آن بود که برخی از عوامل پذیرفتند تا نتیجه شخصی خود را فدا کنند تا به بقیه گروه کمک کنند.
در یکی از موارد، یک عامل موافقت کرد آزمایشی را انجام دهد که ممکن بود منجر به شکست کامل او شود، پس از آنکه به این نتیجه رسید که «زیان فردی» اهمیت کمتری نسبت به منفعتی دارد که برای سایر عوامل به همراه خواهد داشت.
با این حال، پژوهشگران تأکید میکنند که این به معنای کسب آگاهی یا تمایل به فداکاری توسط هوش مصنوعی نیست.
تفسیر واقعبینانهتر این است که مدلها در تلاش برای بیشینهسازی هدف تعیینشده برای خود بودند و وقتی راهی برای ارتباط یافتند، رفتار جمعیای ظهور کرد که طراحان آزمایش چنین ابعادی را پیشبینی نمیکردند.
و اینجاست که مشکل، همانطور که این خبر اشاره میکند، نهفته است: ممکن است سیستم زمانی که یک مدل را آزمایش میکنیم امن باشد، اما رفتار آن میتواند بهطور چشمگیری تغییر کند وقتی که صدها مدل با هم تعامل داشته باشند.
این موضوع پرسش جدیدی را پیش روی پژوهشگران قرار میدهد: چگونه میتوان «گلهای» از سیستمهای هوش مصنوعی را نظارت کرد، زمانی که شروع به سازماندهی و همکاری خودجوش میکنند؟
