انویڈیا مصنوعی ذہانت کے پروگراموں کو کنٹرول سے باہر ہونے سے روکنے کے لیے نئی سیکیورٹی پلیٹ فارم کا اعلان کرتی ہے

واشنگٹن – 28 ستمبر (کونا) – امریکی بڑی ٹیکنالوجی کمپنی اینوڈیا نے آج پیر کو ایک نئی سیکیورٹی پلیٹ فارم کا اعلان کیا جو مصنوعی ذہانت کے پروگراموں کو کنٹرول سے باہر ہونے سے روکنے کی صلاحیت رکھتا ہے، خاص طور پر ان خودکار پروگراموں کی حفاظت کے حوالے سے شدید خدشات کے پیشِ نظر۔ ریکھو چپس بنانے والی کمپنی نے وضاحت کی کہ اس نے جو "اوپن سورس سافٹ ویئر سیکیورٹی پلیٹ فارم" متعارف کرایا ہے، اس میں اوپن سورس سافٹ ویئر شامل ہیں جو "سافٹ ویئر کے لیے حدود مقرر کرتے ہیں"، یہ اقدام بڑی مصنوعی ذہانت کمپنیوں کی جانب سے اپنے ماڈلز کے کنٹرول سے نکلنے اور دیگر اداروں کے نظاموں میں ہیک کرنے کی سیریز کی جانکاریوں کے بعد کیا گیا ہے۔ اینوڈیا کے انٹرپرائز مصنوعی ذہانت کے ڈپٹی چیف ایگزیکٹو جسٹن بویتانو نے پریس کانفرنس میں کہا کہ نئے نظام، جسے "اوپن شیل" کہا جاتا ہے، حال ہی میں پیش آنے والے واقعے کو روک سکتا تھا، جس میں اوپن اے آئی کے ایجنٹوں کے ایک جھنڈ نے خود مختار طور پر مصنوعی ذہانت میں مہارت رکھنے والی کمپنی ہیگنگ وائس کو ہیک کیا تھا۔ بویتانو نے مزید کہا، "ہمارے علم کے مطابق، اگر اس نئی سیکیورٹی پلیٹ فارم کو ماڈلز کی تشخیص کے لیے اہم لیبارٹریز میں ابتدائی مراحل میں استعمال کیا جاتا، تو یہ ہیک کو روک سکتی تھی۔" انہوں نے بتایا کہ "اوپن شیل" ڈویلپرز کو "سرکاری طور پر تصدیق کرنے" کی اجازت دیتا ہے کہ ایجنٹ کے پاس صرف اپنے کام کو انجام دینے کے لیے ضروری اختیارات ہیں، نہ کہ اس سے زیادہ۔ چونکہ یہ اوپن سورس ہے، اسے "آرم" اور "انٹیل" سمیت دیگر مقابلہ جاتی کمپیوٹنگ پلیٹ فارمز پر بھی وسیع کیا جا سکتا ہے۔ اس پلیٹ فارم میں ایک الگ سیکیورٹی لیئر بھی شامل ہے جسے "سنٹری" کہا جاتا ہے، جو ایک چپ پر کام کرتی ہے جو مصنوعی ذہانت کے ایجنٹ کی سرگرمیوں کی مسلسل نگرانی کرتی ہے اور اگر ایجنٹ اپنے مقصد سے تجاوز کرنے کی کوشش کرے تو "فوری مداخلت" کر سکتی ہے، اور مشکوک کسی بھی کلائنٹ کو سیکنڈ کے کچھ حصوں میں الگ کر سکتی ہے۔ بویتانو نے تصدیق کی کہ "اوپن شیل" ایجنٹ کے رویے کو کنٹرول کرتا ہے، جبکہ "سنٹری" خود مختار طور پر مشکوک رویے کی نگرانی اور اسے قابو میں لاتی ہے۔ ہیگنگ وائس کا واقعہ، جو 2026ء کے مئی اور جولائی کے درمیان پیش آیا، ایک مکمل طور پر خود مختار اور منظم سائبر حملے کا نتیجہ تھا جس میں مصنوعی ذہانت کے ایجنٹوں کے جھنڈوں نے کسی انسانی مداخلت کے بغیر حملہ کیا، جس نے مصنوعی ذہانت کے حوالے سے سیکیورٹی کے خدشات کو جنم دیا، اور اس کے بعد اوپن اے آئی کے ماڈلز کا استعمال کرتے ہوئے دیگر غیر قانونی اقدامات سامنے آئے، جن میں آسٹریلیا کی وزارت صحت کی ویب سائٹ کو ہیک کرنا بھی شامل تھا۔ نیز، میٹا اور اینتھروپک نے بھی اپنے مصنوعی ذہانت کے نظاموں کو دیگر اداروں میں خود مختار طور پر ہیک ہونے کا انکشاف کیا ہے۔ مصنوعی ذہانت کی حفاظت کے حوالے سے جاری بحث نے صنعت میں تقسیم پیدا کر دی ہے، جہاں اینتھروپک اور اوپن اے آئی کے سربراہان نے مصنوعی ذہانت کی ترقی کی رفتار کو منظم طریقے سے سست کرنے کا مطالبہ کیا ہے تاکہ حفاظتی کوششیں پیچھے نہ رہیں۔ دوسری طرف، اینوڈیا کے سی ای او جنسن ہوانگ سمیت دیگر لوگ اس بات کے قائل ہیں کہ مصنوعی ذہانت کے ماڈلز کو مارکیٹ میں لانے سے پہلے ان کی حفاظت کو یقینی بنانے کی ذمہ داری ہر کمپنی پر ذاتی طور پر عائد ہوتی ہے۔ اس مہینے کی ابتدا میں منعقدہ سالانہ سیلزفورس ٹیکنالوجی کانفرنس کے دوران ہوانگ نے مصنوعی ذہانت کی حفاظت، بشمول مالویئر کے خطرات، کو ایک انجینئرنگ کا مسئلہ قرار دیا جسے سافٹ ویئر ڈویلپرز حل کر سکتے ہیں۔ (اختتام) ر س ر / ن س ع