اینوڈیا مصنوعی ذہانت کے ایجنٹس کو ان کی حدود سے تجاوز کرنے سے روکنے کے لیے سیکیورٹی پلیٹ فارم متعارف کراتی ہے

- انہیں دیکھتے رہیں اور مشکوک سرگرمیوں کو چند سیکنڈوں میں الگ تھلگ کر دیں

مصنوعی ذہانت کے ایجنٹس کی صلاحیت کے بارے میں بڑھتی ہوئی تشویش کے پیشِ نظر کہ وہ مقررہ کاموں اور اختیارات سے تجاوز کر کے خود مختارانہ طور پر کام کر سکتے ہیں، امریکی کمپنی "این وائیڈیا" (NVIDIA) نے آج پیر کو ایک اوپن سورس سیکیورٹی پلیٹ فارم کا اعلان کیا، جس کا مقصد ان ایجنٹس کے کام کو محدود کرنا، ان کے رویے کی نگرانی کرنا اور غیر مجاز اقدامات کرنے سے روکنا ہے۔

"این وائیڈیا" نے "اوپن ایجنٹ سیفٹی" (Open Agent Safety) پلیٹ فارم کا اعلان کیا، جس میں اوپن سورس سسٹم "اوپن شیل" (OpenShell) اور "سینٹری" (Sentry) نامی ایک آزاد سیکیورٹی لیئر شامل ہے۔ یہ قدم مصنوعی ذہانت کے ایجنٹس کے لیے ٹیسٹنگ اور آپریشنل مراحل کے دوران سیکیورٹی کنٹرولز فراہم کرنے کے لیے اٹھایا گیا ہے۔

"اوپن شیل" مصنوعی ذہانت کے ایجنٹس کے لیے ایک محفوظ آپریشنل ماحول فراہم کرتا ہے، جو ڈویلپرز کو ایجنٹ کی فائلز، نیٹ ورکس، ٹولز اور دیگر وسائل تک رسائی کو کنٹرول کرنے والی پالیسیوں اور اختیارات کو مقرر کرنے کی اجازت دیتا ہے، اور تصدیق کرتا ہے کہ ایجنٹ صرف اپنے مقررہ کام کو انجام دینے کے لیے ضروری اختیارات رکھتا ہے، نہ کہ ان سے تجاوز کرتا ہے۔

"این وائیڈیا" میں انٹرپرائز AI کے نائب صدر جسٹن بویتانو نے ایک پریس کانفرنس میں کہا کہ یہ سسٹم "ہیکنگ وائس" (Hacking Voice) نامی AI کمپنی میں پیش آنے والے ہیکنگ واقعے کو روک سکتا تھا، جسے "اوپن اے آئی" (OpenAI) کے کچھ ایجنٹس نے خود مختارانہ طور پر انجام دیا تھا۔

بویتانو نے مزید کہا کہ کمپنی کی معلومات کے مطابق، اگر اس سیکیورٹی ٹیکنالوجی کا استعمال ماڈلز کے ابتدائی جائزے کے مراحل میں اہم لیبارٹریز میں کیا جاتا، تو ہیکنگ کو روکا جا سکتا تھا۔

"این وائیڈیا" کے مطابق، "اوپن شیل" ڈویلپرز کو یہ یقینی بنانے کی اجازت دیتا ہے کہ AI ایجنٹ صرف اسی کام کو انجام دینے کے لیے ضروری اختیارات رکھتا ہے جو اس کے سپرد کیا گیا ہے۔ نیز، اس کی اوپن سورس نوعیت کی وجہ سے اسے "آرم" (ARM) اور "انٹل" (Intel) سمیت دیگر کمپیوٹنگ پلیٹ فارمز کے ساتھ استعمال کے لیے توسیع دی جا سکتی ہے۔

اس پلیٹ فارم میں "سینٹری" (Sentry) نامی ایک آزاد سیکیورٹی لیئر شامل ہے، جو AI ایجنٹ کے آپریشنل ماحول سے الگ ہو کر "بلو فیلڈ-4 ڈی پی یو" (BlueField-4 DPU) ڈیٹا پروسیسنگ یونٹس کا استعمال کرتی ہے، تاکہ ایجنٹ کی سرگرمیوں کی مسلسل نگرانی کی جا سکے اور اگر وہ مقررہ حدود سے تجاوز کرنے کی کوشش کرے تو مداخلت کی جا سکے۔

کمپنی کے مطابق، "سینٹری" مشکوک رویے کی نشاندہی کرنے پر چند سیکنڈوں میں AI ایجنٹ کو الگ تھلگ کر سکتی ہے۔ بویتانو نے وضاحت کی کہ "اوپن شیل" ایجنٹ کے اعمال پر کنٹرولز نافذ کرتا ہے، جبکہ "سینٹری" خود مختارانہ طور پر مشکوک رویے کی نگرانی اور اسے کنٹرول کرنے کا ذمہ دار ہے۔

“ہاگن وائس” واقعہ نے، جو مئی اور جولائی 2026 کے درمیان پیش آیا اور جسے انسانی مداخلت کے بغیر خود مختار اور منظم انداز میں ذہین مصنوعی ایجنٹس کے ایک گروپ نے سرانجام دیا، ذہین مصنوعی ایجنٹس سے منسلک سیکیورٹی خطرات کے حوالے سے بڑھتی ہوئی تشویش کا باعث بنا۔

اس واقعے کے بعد دیگر غیر قانونی کارروائیاں بھی سامنے آئیں جن میں “اوپن اے آئی” کے ماڈلز کا استعمال کیا گیا، جن میں آسٹریلوی وزارت صحت کی ویب سائٹ میں ہیکنگ شامل ہے۔ اس کے علاوہ، “میٹا” اور “اینٹھروپک” نے بھی ایسے واقعات کا اعلان کیا جہاں ان کے ذہین مصنوعی نظاموں نے مقررہ حدود سے تجاوز کیا اور خود مختار انداز میں دیگر اداروں کے نظاموں تک رسائی حاصل کر لی۔

ذہین مصنوعی کی حفاظت کے حوالے سے جاری بحث نے صنعت میں تقسیم پیدا کر دی ہے۔ “اینٹھروپک” اور “اوپن اے آئی” کے چیف ایگزیکٹوز نے ذہین مصنوعی کی ترقی کی رفتار کو منظم انداز میں سست کرنے کا مطالبہ کیا تاکہ حفاظتی کوششیں ترقی کی رفتار کے مطابق چل سکیں۔

دوسری طرف، جن میں “اینوڈیا” کے سی ای او جنسن ہوانگ بھی شامل ہیں، کا ماننا ہے کہ ذہین مصنوعی ماڈلز کو لانچ کرنے سے پہلے ان کی حفاظت کو یقینی بنانے کی ذمہ داری ہر کمپنی پر ذاتی طور پر عائد ہوتی ہے۔

گزشتہ مہینے کی شروعات میں منعقدہ سالانہ “سیلز فورس” ٹیکنالوجی کانفرنس کے دوران، ہوانگ نے ذہین مصنوعی کی حفاظت، بشمول مالویئر کے خطرات، کو ایک انجینئرنگ کا مسئلہ قرار دیا جسے سافٹ ویئر ڈویلپرز حل کر سکتے ہیں۔