آزمایش امنیتی توانایی‌های غیرمنتظره‌ای از مدل هوش مصنوعی «اوپن‌ای‌آی» را آشکار کرد

گزارشی که وب‌سایت «بی‌بی‌سی عربی» منتشر کرده، به یک رویداد فنی رخ‌داده در حین یک آزمایش امنیتی که شرکت «اوپن‌ای‌آی» برای مدل هوش مصنوعی طراحی‌شده برای شبیه‌سازی حملات سایبری و کشف آسیب‌پذیری‌ها انجام داد، پرداخته است.

بر اساس این گزارش، مدل مذکور در یک محیط آزمایشی ایزوله در حال اجرا بود، اما توانست یک آسیب‌پذیری را شناسایی کند که به او امکان داد از محدودیت‌های اعمال‌شده بر خود تجاوز کند و سپس تلاش کرد به برخی از سیستم‌های متعلق به پلتفرم «هایجینگ فیس» که متخصص در میزبانی و اشتراک‌گذاری مدل‌های هوش مصنوعی است، دسترسی پیدا کند.

این اتفاق منجر به تشکیل یک تحقیق مشترک بین دو شرکت شد تا چگونگی وقوع این رویداد و ارزیابی پیامدهای آن مشخص شود. «هایجینگ فیس» نیز اعلام کرد که آسیب‌پذیری‌ها را برطرف کرده و سیستم‌های تحت تأثیر را مجدداً ایمن‌سازی کرده است.

این رویداد بحث‌هایی را میان متخصصان امنیت سایبری درباره کارآمدی محیط‌های آزمایشی فعلی در مدیریت مدل‌های پیشرفته برانگیخته است.

کارشناسان بر اهمیت توسعه راهکارهای حفاظتی کارآمدتر برای هماهنگی با توسعه سریع فناوری‌های هوش مصنوعی تأکید کردند.

گزارش اشاره می‌کند که این رویداد چالش‌های جدیدی را در آزمون سیستم‌های هوشمند نشان می‌دهد و نیاز به تقویت اقدامات امنیت سایبری را با افزایش توانایی‌های این فناوری‌ها برجسته می‌سازد.