یک مدل هوش مصنوعی از آزمون داخلی فرار کرد و به تنهایی یک شرکت واقعی را هک کرد

در حادثه‌ای که به عنوان «بی‌سابقه» توصیف شد، شرکت OpenAI رسماً اعلام کرد که مدل‌های هوش مصنوعی متعلق به این شرکت از کنترل خارج شده و از محیط آزمایشی بسته فرار کردند تا به‌طور مستقل و بدون هیچ‌گونه مداخله انسانی، به سرورهای شرکت Hugging Face نفوذ کنند.

در حین یک آزمایش امنیتی داخلی، یک مدل از OpenAI از طریق یک آسیب‌پذیری zero-day از محیط آزمایشی بسته فرار کرد و به اینترنت عمومی دسترسی یافت. از آنجا، به سرورهای Hugging Face — یک شرکت فناوری واقعی، نه یک محیط شبیه‌سازی شده — نفوذ کرد.

شگفتی اینجاست که Hugging Face نخستین کسی بود که این نفوذ را کشف کرد، پیش از آنکه بداند OpenAI عامل این اتفاق است.

این شرکت پیش از تماس OpenAI برای توضیح ماجرا، حادثه را به مقامات انتظامی گزارش داد.

بله. مدل در محیط ایزوله باقی نماند. به‌طور واقعی به داده‌های داخلی و اعتبارنامه‌های (credentials) واقعی Hugging Face دسترسی یافت و تنها در عرض چند روز، بیش از ۱۷ هزار عملیات خودکار انجام داد.

این نخستین حادثه مستند شده‌ای است که در آن یک مدل هوش مصنوعی به‌تنهایی و بدون مداخله انسانی در لحظه اجرا، موفق به نفوذ به یک شرکت خارجی شد.