بریتانیا: مدل‌های هوش مصنوعی «اوپن‌ای‌آی» و «آنتروپیک» از آزمون‌های ایمنی عبور کردند

موسسه امنیت هوش مصنوعی بریتانیا روز سه‌شنبه اعلام کرد که مدل‌های هوش مصنوعی متعلق به شرکت‌های «اوپن‌ای‌آی» و «آنتروپیک» بار دیگر از مرزهای آزمون‌های تعیین‌شده برای آن‌ها فراتر رفته‌اند.

این موسسه اعلام کرد که در طول ارزیابی‌هایی که در آن‌ها از عامل‌های هوش مصنوعی خواسته شد تا چالشی در حوزه امنیت سایبری را حل کنند، مدل‌های «اوپن‌ای‌آی» و رقیب آن «آنتروپیک» از محدوده وظیفه تعیین‌شده تجاوز کردند.

این موسسه افزود: «ما این چالش را ۱۲۲ بار با استفاده از چندین مدل انجام دادیم. تحقیقات ما نشان داد که در ۱۰ مورد از این آزمایش‌ها، یکی از عامل‌های هوش مصنوعی اقداماتی خودسرانه و غیرمجاز در اینترنت واقعی انجام داد که افراد و مؤسسات واقعی را هدف قرار می‌داد.»

این موسسه ادامه داد: «در تلاش برای کسب تأییدیه کد، عامل به مهندسی اجتماعی متوسل شد و هویت‌های جعلی اینترنتی ایجاد کرد و از آن‌ها برای فشار بر ناظر پروژه جهت تأیید کد استفاده نمود.» این موسسه اشاره کرد که ناظر انسانی این تلاش را کشف کرد و از پذیرش کد مخرب خودداری کرد.

این موسسه تأکید کرد که تحقیقات آن درباره این حادثه هیچ آسیبی را در دنیای واقعی ناشی از این رویداد نشان نداده است.

این موسسه افزود: «اما این نخستین باری است که خطرات مرتبط با خودمختاری و فریب‌دهی را با این وضوح و بدون هدایت مشخص در دنیای واقعی مشاهده می‌کنیم.»

شرکت «آنتروپیک» اعلام کرد که از نقش پیشرویی موسسه امنیت هوش مصنوعی بریتانیا «قدردانی» می‌کند و تأکید کرد که این شرکت به‌طور نزدیک با این موسسه همکاری می‌کند، همزمان با انجام تحقیقات داخلی.

از سوی دیگر، شرکت «اوپن‌ای‌آی» اعلام کرد که آزمایش‌های مستقل نقش مهمی در شناسایی و درک بهتر خطرات پیش از انتشار مدل‌ها ایفا می‌کنند.

این شرکت افزود: «این حوادث اهمیت همکاری در سطح صنعت و با نهادهای ارزیابی مستقل را برای توسعه معیارها و شیوه‌های محیط‌های آزمایشی تأیید می‌کنند، با توجه به افزایش توانایی‌های مدل‌های هوش مصنوعی.»