«انویدیا» پلتفرمی برای محدود کردن عوامل هوش مصنوعی در صورت تجاوز از مرزهایشان راه‌اندازی می‌کند
انوییدیا پلتفرم امنیتی متن‌باز خود را راه‌اندازی کرد که هدف آن اعمال محدودیت‌های مستقیم بر عامل‌های هوش مصنوعی و قرنطینه سریع آن‌ها در صورت تلاش برای فراتر رفتن از اختیارات محول‌شده است؛ این در حالی است که استفاده از این سیستم‌ها در انجام وظایف حساس به‌صورت تقریباً مستقل رو به افزایش است.
این پلتفرم با نام «پلتفرم ایمنی عامل باز انوییدیا» (NVIDIA Open Agent Safety Platform) شناخته می‌شود و اساساً از یک برنامه متن‌باز به نام «اوپن‌شل» (Open Shell) و یک سیستم مرجع به نام «سنتری» (Centri) تشکیل شده است. «اوپن‌شل» اقدامات عامل را نظارت کرده و سیاست‌ها را در حین اجرا اعمال می‌کند، در حالی که «سنتری» نظارت جداگانه‌ای در سطح سخت‌افزار انجام می‌دهد و می‌تواند عامل را در کسری از ثانیه در صورت خروج از مرزهای تعیین‌شده، قرنطینه کند.
انوییدیا اعلام کرد که بیش از ۱۰۰ نهاد در توسعه یا استفاده از این سیستم مشارکت دارند که شامل آنتروپیک، مایکروسافت، سیلزفورس، جی‌پی مورگان چیس، هاجینگ‌فیس و اسپیس‌ایکس‌ای‌ای می‌شود. همچنین «اوپن‌شل» قابل گسترش است تا با پلتفرم‌های محاسباتی شرکت‌های دیگر از جمله آرم و اینتل کار کند.
این شرکت معتقد است که امنیت عامل‌ها نیازمند کنترل‌هایی است که در سطح نرم‌افزار و سخت‌افزار گسترده یابد، نه اینکه صرفاً به محدودیت‌های تعبیه‌شده در خود برنامه وابسته باشد.
