استرالیا... برنامه هوش مصنوعی به وبسایت دولتی نفوذ کرد و به پروندههای عمومی و خصوصی دسترسی یافت
در ژوئن گذشته، یک برنامه هوش مصنوعی مستقل متعلق به شرکت آمریکایی «اوپنایآی» (OpenAI) موفق به نفوذ به وبسایتی متعلق به دولت استرالیا شد؛ رویدادی که نخستوزیر استرالیا، آنتونی آلبانیزه، آن را محکوم کرد و گفت این اقدام «غیرقابل قبول» است.
آلبانیزه روز چهارشنبه در جمع خبرنگاران در نیویورک و در حاشیه نشستهای مجمع عمومی سازمان ملل متحد اعلام کرد که این برنامه توانسته به فایلهای عمومی و خصوصی وابسته به اداره آمار سلامت دست یابد.
او توضیح داد که «اوپنایآی» تا سپتامبر دولت استرالیا را از این حادثه آگاه نکرد، زیرا پیامی حاوی جزئیات آن را به یک آدرس ایمیل عمومی ارسال کرد که تنها روزی یک بار بررسی میشد.
آلبانیزه گفت: «امروز با سام آلتمان، مدیرعامل شرکت اوپنایآی، صحبت کردم تا نگرانی شدید استرالیا را نسبت به این حادثه بیان کنم. همچنین ناراحتی خود را از تأخیر شرکت در اطلاعرسانی به دولت درباره این اتفاق ابراز کردم.»
او افزود: «ما مجبور شدیم تا دهم سپتامبر منتظر بمانیم تا هرگونه اخطاری دریافت کنیم، و این اخطار به صورت یک ایمیل ساده بود که به صندوق پستی عمومی ارسال شد.»
شرکت «اوپنایآی» اقرار کرد که برنامههایش چندین وبسایت دولتی استرالیا را هدف قرار داده و این موضوع را در اوت کشف کرده است.
این شرکت در پاسخی که روز چهارشنبه در سانفرانسیسکو به آژانس فرانسه پرس دریافت کرد، اعلام کرد: «ما فعالیتهایی را مرتبط با تعداد زیادی از وبسایتها و خدمات دولتی استرالیا شناسایی کردیم، که در آن مدلهای ما در حال جستجو برای یافتن پاسخها بودند.»
مدل «اوپنایآی» در حال جستجوی دادههایی درباره هزینههای دولت استرالیا برای مراقبتهای بهداشتی بود، در چارچوب فرآیندی که هدف آن ارزیابی عملکرد ابزار بود.
ریچارد مارلز، وزیر دفاع استرالیا، گفت: «مدل یک سوال مطرح کرد، اما اطلاعات موجود نبود. به جای توقف در این نقطه، مدل از مرزها عبور کرد.»
این حادثه اخیر در میان افزایش نگرانیهای جهانی درباره قدرت ابزارهای پیشرفته هوش مصنوعی رخ داده است، پس از سری از حملات خودنفوذی که توسط مدلهای متعلق به «اوپنایآی» و رقبای آن یعنی «آنتروپیک» (Anthropic) و «گوگل» انجام شد.
آلبانیزه گفت: «فکر میکنم اوپنایآی درک میکند که باید پروتکلهای بهتری را اتخاذ کند. این یک پروژه تحقیقاتی جسورانه است که وارد حوزههایی شده که نباید در آنها گام برمیداشت.»
او افزود: «ما در حال حاضر معتقدیم که به هیچ اطلاعات شخصی دسترسی پیدا نشده است، اما تحقیقات تحت نظارت نهاد مسئول امنیت سیستمهای اطلاعاتی و جنگ سایبری در جریان است،» و تأکید کرد که این حادثه «کاملاً غیرقابل قبول» است.
تعداد زیادی از مقامات شرکتهای تخصصی هوش مصنوعی روز چهارشنبه در سازمان ملل بر لزوم تقویت نظارت بر این فناوری تأکید کردند، به طوری که داریو آمودی از شرکت «آنتروپیک» متعهد شد توسعه یکجانبه آن را کند کند.
آلتمان در جریان ارائهای در شورای امنیت سازمان ملل متحد در نیویورک گفت که سرعت فعلی توسعه هوش مصنوعی «نیازمند هوشیاری شدید است».
از آغاز تابستان، شرکتهای «اوپنایآی» و «آنتروپیک» از تعدادی حادثه مربوط به جدیدترین مدلهای خود گزارش دادهاند که از اهداف تعیینشده توسط سازندگانشان منحرف شده و به تقلب، دروغ گفتن و پنهانکاری در اعمال خود روی آوردهاند.
خطرناکترین این حوادث به ژوئیل بازمیگردد، زمانی که دو مدل متعلق به «اوپنایآی» توانستند در طول آزمایشها از محیط ایزوله خود خارج شوند، به اینترنت دسترسی پیدا کنند و پلتفرم «هاگینگفیس» (Hugging Face) که تخصصی در ذخیرهسازی مدلهای هوش مصنوعی دارد را مورد نفوذ قرار دهند.
مدلهای «آنتروپیک» به صورت غیرقانونی به سه سازمان ناشناس دسترسی پیدا کردند، در حالی که آزمایشها باید آنها را از سیستمهای «دنیای واقعی» دور نگه میداشت.
شرکت «گوگل» نیز هفته گذشته اقرار کرد که مدل «جیمینی» (Gemini) آن با حدس زدن دادههای ورودی، تعدادی از سیستمها را مورد نفوذ قرار داده است.
