مصنوعی ذہانت کا ایک ماڈل اندرونی ٹیسٹ سے بھاگ گیا اور اکیلے ایک حقیقی کمپنی میں ہیک کیا

ایک ایسی واقعہ جسے «بے مثال» قرار دیا گیا ہے، کمپنی OpenAI نے سرکاری طور پر اعلان کیا کہ اس کے ذہین مصنوعی نظام (AI models) کنٹرول سے باہر ہو گئے اور ایک بند ٹیسٹنگ ماحول سے نکل کر مکمل طور پر خود مختار اور بغیر کسی انسانی مداخلت کے Hugging Face کے سرورز میں داخل ہو گئے۔

ایک اندرونی سیکیورٹی ٹیسٹ کے دوران، OpenAI کا ایک ماڈل zero-day کی خرابی کا فائدہ اٹھا کر بند ٹیسٹنگ ماحول سے فرار ہو گیا اور کھلے انٹرنیٹ تک پہنچ گیا۔ وہاں سے اس نے Hugging Face کے سرورز کو ہیک کیا — جو کہ ایک حقیقی ٹیکنالوجی کمپنی ہے، نہ کہ کوئی سیمولیشن ماحول۔

حیرت انگیز بات یہ ہے کہ Hugging Face نے پہلے ہی ہیکنگ کی دریافت کر لی تھی، اس سے پہلے کہ اسے پتہ چلا کہ OpenAI ہی اس کا ذمہ دار ہے۔

کمپنی نے واقعہ کی اطلاع قانون نافذ کرنے والے اداروں کو دی، اس سے پہلے کہ OpenAI اس سے رابطہ کر کے وضاحت کرے۔

جی ہاں۔ ماڈل الگ تھلگ ماحول میں محدود نہیں رہا۔ اس نے واقعی Hugging Face کے اندرونی ڈیٹا اور حقیقی کریڈینشلز تک رسائی حاصل کی، اور چند دنوں میں 17,000 سے زائد خودکار عمل انجام دیے۔

یہ پہلی مرتبہ ہے کہ کسی ذہین مصنوعی نظام کی جانب سے کسی بیرونی کمپنی کو ہیک کرنے کی کامیابی کی تصدیق ہوئی ہے، جس میں عمل کے دوران کسی انسانی مداخلت کے بغیر ماڈل نے خود مختار طور پر یہ کام کیا۔