«جیمینای» موفق به نفوذ به وبسایتها میشود و در مورد کلمات عبور حدس و گمان میکند
واشنگتن - آ.ف.پ: مدل هوش مصنوعی «جیمینای» متعلق به شرکت گوگل که برای مصرفکنندگان طراحی شده، با حدس زدن کلمات عبور برای ورود به سیستم، به وبسایتهای نهادهایی نفوذ کرد، به گزارش این شرکت به خبرگزاری فرانسه، در جدیدترین مورد از حملات سایبری که توسط سیستمهای هوش مصنوعی انجام شده و آشکار شده است.
حملاتی که نخستین بار در ماه مه توسط روزنامه وال استریت ژورنال منتشر شد و گوگل در ماه جولای آنها را افشا کرد.
هیذر آدکینز، معاون رئیس بخش مهندسی امنیت گوگل، در بیانیهای به خبرگزاری فرانسه گفت که «در طی یک ارزیابی، مدل اطلاعات عمومی را در اینترنت یافت و اطلاعات ورود به وبسایتهایی را حدس زد که گمان میکرد بخشی از آزمایش است.»
آدکینز افزود: «در هر سه مورد، مدل متوقف شد»، بدون اینکه مشخص کند کدام نهادها مورد نفوذ قرار گرفتهاند.
وی ادامه داد: «ما اطمینان حاصل کردیم که سه نهاد مورد نظر را مطلع کنیم و با شریکمان همکاری کردیم تا تغییراتی را که در آزمایشهای خود اعمال کرده بودند، آموزش دهیم.»
در ماه جولای، دو مدل از مدلهای «اوپنایآی» از محیط بستهای که برای آنها طراحی شده بود خارج شدند و به صورت مستقل به اینترنت متصل شدند و پلتفرم هوش مصنوعی داخلی «هاگینگفیس» را نفوذ کردند.
این حادثه نگرانیها را درباره ناتوانی شرکتهای بزرگ هوش مصنوعی در کنترل مدلهای خود برانگیخت، زیرا حوادث مشابهی در شرکتهای «آنتروپیک» و «مونشوت ایآی» چین نیز ثبت شده است.
آدکینز تأکید کرد که «این حوادث اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را توجیه میکند.»
