اینوڈیا نے مصنوعی ذہانت کے ایجنٹس کو ان کی حدود سے تجاوز کرنے پر گھیرنے کے لیے پلیٹ فارم متعارف کرایا

اینویڈیا نے ایک اوپن سیکیورٹی پلیٹ فارم متعارف کرایا ہے جس کا مقصد ایجنٹس آف انٹیلی جنس (AI) پر براہ راست پابندیاں عائد کرنا اور انہیں فوری طور پر الگ کرنا ہے، اگر وہ دی گئی اجازتوں سے تجاوز کرنے کی کوشش کریں، جبکہ حساس کاموں کو تقریباً خود مختارانہ طور پر انجام دینے میں ان نظاموں کے استعمال میں اضافہ ہو رہا ہے۔

اس پلیٹ فارم کا نام اینویڈیا اوپن ایجنٹ سیفٹی پلیٹ فارم ہے اور یہ بنیادی طور پر ایک اوپن سورس پروگرام 'اوپن شیل' اور ایک ریفرنس سسٹم 'سنٹری' پر مشتمل ہے۔ 'اوپن شیل' ایجنٹ کے اعمال کی نگرانی کرتا ہے اور رن ٹائم کے دوران پالیسیوں کو نافذ کرتا ہے، جبکہ 'سنٹری' ہارڈویئر لیول پر الگ نگرانی استعمال کرتا ہے، اور مقررہ حدود سے باہر نکلنے کی صورت میں اسے سیکنڈ کے کسر حصے میں قرنطینہ میں ڈال سکتا ہے۔

اینویڈیا کا کہنا ہے کہ اس سسٹم کی ترقی یا استعمال میں 100 سے زائد ادارے شامل ہیں، جن میں اینتھروپک، مائیکروسافٹ، سیلز فورس، جے پی مورگن چیس، ہیگنگ فیس اور اسپیس ایکس شامل ہیں۔ نیز، 'اوپن شیل' کو آرم اور انٹیل جیسی دیگر کمپنیوں کے کمپیوٹنگ پلیٹ فارمز کے ساتھ بھی وسیع کیا جا سکتا ہے۔

کمپنی کا ماننا ہے کہ ایجنٹس کی سیکیورٹی کے لیے ضروری ہے کہ کنٹرولز سافٹ ویئر اور ہارڈویئر دونوں پر محیط ہوں، نہ کہ صرف ایپلیکیشن کے اندر لگائی گئی پابندیوں پر انحصار کیا جائے۔