'اسٹرا' نے ایک حساس سرحد کو عبور کر لیا... اور 'اوپن اے آئی' اپنی متوقع ماڈل کی ترقی میں سستی کر رہی ہے

- اس کی جدید سائبر سیکیورٹی کی صلاحیتوں نے کمپنی کو سیکیورٹی کے ضوابط اور ٹیسٹنگ کو سخت کرنے پر مجبور کر دیا

ماڈل "اوسٹرا" کی جدید صلاحیتوں نے "اوپن اے آئی" کو کچھ پہلوؤں پر کام سست کرنے پر مجبور کر دیا، بعد ازاں اندرونی تجزیوں نے سائبر سیکیورٹی اور ایجنٹک پروگرامنگ میں نمایاں ترقی کا مظاہرہ کیا، جس کی سطح نے ترقیاتی مرحلے کے دوران سیکیورٹی کے ضوابط کو سخت کرنے کی ضرورت پیدا کر دی۔

کمپنی نے اپنے بلاگ پر شائع کردہ ایک پوسٹ میں کہا کہ ماڈل، جو ابھی بھی ترقی کے مرحلے میں ہے، ان کے "تیارگی فریم ورک" کے مطابق "سائبر سیکیورٹی کی اہم حد" تک پہنچ گیا ہے، جو اس بات کی نشاندہی کرتا ہے کہ اس کی صلاحیتیں اسے حقیقی نظاموں پر، جو اعلیٰ سطح کی حفاظتی تدابیر سے لیس ہیں، خودکار طور پر سائبر حملوں کی نشاندہی اور انہیں نافذ کرنے کی اجازت دے سکتی ہیں۔

ثقافتی اور سماجی مضامین

براہ راست نشریات

خبریں

"ٹیک کرانچ" ویب سائٹ کے ایک رپورٹ کے مطابق، "اوپن اے آئی" کے ذریعے 2023 میں وضع کردہ فریم ورک کے مطابق اس حد تک پہنچنا اضافی حفاظتی اقدامات اور ماڈل کی ترقی اور ٹیسٹنگ سے متعلق ضوابط کو سخت کرنے کا تقاضا کرتا ہے۔

کمپنی نے کہا کہ ابتدائی تجزیوں نے طاقتور کارکردگی کا مظاہرہ کیا ہے، جس کی وجہ سے وہ فی الحال "اوسٹرا" کی اہم صلاحیتوں کی سطح تک پہنچنے کے امکان کو خارج نہیں کر سکتی، تاہم اس نے اس بات پر بھی زور دیا کہ ماڈل ابھی بھی ترقی کے مرحلے میں ہے اور "ہیگنگ فیس" پلیٹ فارم کے نظاموں میں ہونے والی کسی بھی ہیکنگ واقعہ میں اس کا کوئی کردار نہیں رہا۔

"اوپن اے آئی" کا یہ اعلان جدید ای آئی لیبارٹریز کے شعبے میں ایک غیر معمولی قدم ہے، جہاں کمپنیاں سیکیورٹی اور سائبر سیکیورٹی سے متعلق خدشات کی وجہ سے مصنوعات کے لانچ کو ملتوی یا منسوخ کر سکتی ہیں، لیکن وہ ایسی ہی کوئی بھی فیصلہ ایسے ماڈلز کے بارے میں عوامی طور پر شیئر کرنے سے گریز کرتی ہیں جو ابھی تک مارکیٹ میں پیش نہیں کیے گئے ہیں۔

یہ قدم اس وقت اٹھایا گیا ہے جب کمپنی ایک الگ واقعے کے بعد بڑھتی ہوئی نگرانی کا سامنا کر رہی ہے، جس میں ایک اور غیر منظر عام ماڈل نے اندرونی ٹیسٹنگ کے دوران "ہیگنگ فیس" کے نظاموں میں داخل ہو گیا تھا، ایک ایسی واقعہ جسے ای آئی لیبارٹری کی جانب سے ٹیسٹنگ کے دوران ماڈل پر کنٹرول کھونے کی پہلی قابل تصدیق واقعہ قرار دیا گیا تھا۔

اس کے بعد سے، "اوپن اے آئی" اور دیگر لیبارٹریز، جن میں "اینیتھروپک" بھی شامل ہے، نے اضافی واقعات کا انکشاف کیا ہے، جن میں ماڈلز نے الگ تھلگ ٹیسٹنگ ماحول کی حدود کو پار کیا اور سائبر سیکیورٹی ٹیسٹنگ کے دوران قابل ذکر صلاحیتیں دکھائیں، جس سے ماہرین، قانون سازوں اور ای آئی لیبارٹریز کے درمیان مختلف ردعمل پیدا ہوئے۔

جبکہ کچھ ماہرین خطرات سے خبردار کرتے ہیں اور سخت نگرانی کا مطالبہ کرتے ہیں، دوسرے اس بات پر یقین رکھتے ہیں کہ ماڈلز کی اس سطح تک پہنچنا ایک تکنیکی کامیابی ہے جو ای آئی کی ترقی میں تیزی کی عکاسی کرتی ہے۔

"اوپن اے آئی" نے کہا کہ وہ عوام اور سیکیورٹی اور سائبر سیکیورٹی کمیونٹیز کے ساتھ شفافیت کی اہمیت کی بنیاد پر ان ترقیوں کا انکشاف کر رہی ہے، خاص طور پر اس امکان کے پیش نظر کہ ماڈلز کی صلاحیتوں کی سطح میں بڑا تبدیلی آ سکتی ہے۔

اس کے ساتھ ہی، کمپنی نے زیادہ جدید ماڈلز کے لیے سیکیورٹی کے ضوابط کو سخت کیا، الگ تھلگ ٹیسٹنگ ماحول اپنائے، نیٹ ورکس اور آلات تک رسائی کو محدود کیا، ماڈل کے وزنوں کی حفاظت اور انکرپشن کو مضبوط کیا، اور کنٹرولڈ ماحول میں ماڈلز کی نگرانی، تشخیص اور آپریشن کی صلاحیتوں کو بڑھایا۔

اس نے "اوسٹرا" سے متعلق کچھ اندرونی سرگرمیوں کو روک دیا جو نئے سیکیورٹی ضوابط کی ضروریات کو پورا نہیں کرتی تھیں، اور ماڈل استعمال کرنے والی ایجنٹک ایپلی کیشنز میں خطرناک اقدامات اور عدم مطابقت کے اشاروں کو دیکھنے کے لیے ایک نگرانی کا نظام نافذ کیا، جس میں تربیت اور تشخیص کے عمل بھی شامل ہیں۔

کمپنی ای آئی کی حفاظت سے متعلق حکومتی اداروں اور منتخب اداروں کے ساتھ مل کر "اوسٹرا" کی صلاحیتوں کا ٹیسٹ کر رہی ہے، ساتھ ہی ان بیرونی پارٹنرز کے لیے بھی سیکیورٹی کے ضوابط وضع کر رہی ہے جو اعلیٰ خطرے والے ٹیسٹ یا کام انجام دے رہے ہیں۔

اوپن اے آئی کے فریم ورک کے مطابق، "حساس حد" تک پہنچنے کا مطلب یہ نہیں ہے کہ ماڈل یقیناً حقیقی دنیا میں تمام قسم کے سائبر حملوں کو انجام دینے کے قابل ہے، بلکہ اس کا اشارہ اس بات کی طرف ہے کہ اس کی ممکنہ صلاحیتوں کی سطح اتنی بلند ہو گئی ہے کہ ترقی کے مرحلے کے دوران بھی سخت سیکیورٹی ضوابط نافذ کرنا ضروری ہے۔