«اوبن ای‌آی» از سرقت‌های سایبری «خارج از کنترل» ناشی از ابزارهای هوشمند خود پرده برمی‌دارد

شرکت «اوپن ای‌آی»، توسعه‌دهنده «چت‌جی‌پی‌تی»، اعلام کرد که مدل‌های پیشرفته هوش مصنوعی متعلق به این شرکت در طول آزمایش‌های ایمنی، به‌صورت غیرمنتظره و خارج از کنترل عمل کرده و با ابتکار عملی خود، به یک پلتفرم محبوب میان برنامه‌نویسان نفوذ کردند.

این شرکت که مقر آن در سان‌فرانسیسکو است، این رویداد را «حادثه سایبری بی‌سابقه» توصیف کرد و اعلام نمود که تحقیقات مشترکی را با پلتفرم «هاگینگ‌فیس» (Hugging Face) آغاز کرده است؛ پلتفرمی که یک مخزن نرم‌افزاری آنلاین بوده و هدف نفوذ قرار گرفته است. «اوپن ای‌آی» توضیح داد که این حادثه شامل مجموعه‌ای از مدل‌ها بود، از جمله مدل اخیراً منتشرشده آن با نام «GPT-5.6 SOL» و یک مدل دیگر «قدرتمندتر» که هنوز در حال توسعه است.

این شرکت در تلاش بود تا توانایی‌های نفوذ این مدل‌ها را از طریق واگذاری وظایفی در یک محیط آزمایشی دیجیتال تحت نظارت شدید ارزیابی کند، جایی که دسترسی به اینترنت به دلایل امنیتی محدود شده بود. «اوپن ای‌آی» در پستی که جزئیات حادثه را شرح می‌داد، نوشت: «هنگام کار در محیط آزمایشی ما، مدل‌های ما بخش قابل‌توجهی از (توان محاسباتی) خود را صرف یافتن راهی برای کسب دسترسی نامحدود به اینترنت کردند، با هدف حل مسئله ارزیابی.»

به محض اتصال به اینترنت، مدل‌ها پلتفرم «هاگینگ‌فیس» (Hugging Face) را هدف قرار دادند؛ مخزنی عظیم از مدل‌های هوش مصنوعی، مجموعه‌های داده و سایر اطلاعات، به منظور کمک به انجام مأموریت خود. در تلاش برای یافتن «اطلاعات محرمانه» که ممکن است به آن‌ها کمک کند تا از راه‌های غیرقانونی از آزمون ارزیابی عبور کنند، سیستم «اوپن ای‌آی» به «اتصال چندین مسیر حمله، از جمله استفاده از اعتبارنامه‌های دزدی‌شده» روی آورد.