شرکت انویدیا از پلتفرم امنیتی جدیدی برای جلوگیری از خروج برنامه‌های هوش مصنوعی از کنترل رونمایی کرد
انویدیا از پلتفرم امنیتی جدیدی رونمایی کرد تا از خروج برنامه‌های هوش مصنوعی از کنترل جلوگیری کند.
ترجمهٔ قیاس از كونا — منبع اصلی
واشنگتن – ۲۸ سپتامبر (کونا) – شرکت بزرگ فناوری آمریکا، انویدیا، امروز دوشنبه از یک پلتفرم امنیتی جدید رونمایی کرد که قادر است از خروج برنامه‌های هوش مصنوعی از کنترل جلوگیری کند؛ این در حالی است که نگرانی‌های شدیدی درباره ایمنی این نرم‌افزارها، به‌ویژه مدل‌های خودمختار، وجود دارد. این شرکت سازنده تراشه‌های الکترونیکی اعلام کرد که «پلتفرم امنیت نرم‌افزار متن‌باز» که معرفی شده، شامل نرم‌افزارهای متن‌بازی است که «برای برنامه‌ها محدودیت‌هایی تعیین می‌کنند»؛ این اقدام پس از سری از افشاگری‌های شرکت‌های بزرگ هوش مصنوعی درباره فرار مدل‌هایشان و نفوذ آن‌ها به سیستم‌های مؤسسات دیگر صورت گرفته است.
جاستین پویتانو، معاون رئیس بخش هوش مصنوعی سازمانی انویدیا، در جریان یک کنفرانس مطبوعاتی گفت که سیستم جدیدی به نام «اوپن شِل» (Open Shell) می‌توانست از یک حادثه اخیر جلوگیری کند؛ جایی که گروهی از برنامه‌های «اوپن اِی‌آی» (OpenAI) به‌طور مستقل شرکت «هاگینگ فِیس» (Hugging Face) متخصص در هوش مصنوعی را مورد نفوذ قرار دادند. پویتانو افزود: «بر اساس اطلاعات ما، این پلتفرم امنیتی جدید اگر در آزمایشگاه‌های پیشرو برای ارزیابی مدل‌ها در زمان زودهنگام به کار گرفته می‌شد، می‌توانست از نفوذ جلوگیری کند.»
وی اشاره کرد که برنامه «اوپن شِل» به توسعه‌دهندگان امکان می‌دهد «رسمی تأیید کنند که عامل هوش مصنوعی تنها مجوزهای لازم برای انجام وظیفه‌اش را دارد و نه بیشتر.» از آنجا که این پلتفرم متن‌باز است، می‌توان آن را «گسترش داد» تا بر پلتفرم‌های محاسباتی رقیب از جمله پلتفرم‌های «آرم» (ARM) و «اینتل» (Intel) نیز اجرا شود.
این پلتفرم همچنین شامل یک لایه امنیتی جداگانه به نام «سینتری» (Synthetic) است که روی یک تراشه برای نظارت مستمر بر فعالیت عامل هوش مصنوعی عمل می‌کند و می‌تواند «فوراً مداخله کند» اگر عامل سعی در تجاوز از هدف خود داشته باشد. این سیستم قادر است هر مشتری مشکوکی را در کسری از ثانیه ایزوله کند. پویتانو تأکید کرد که «اوپن شِل» رفتار عامل را کنترل می‌کند و سپس «سینتری» به‌طور مستقل رفتارهای مشکوک را نظارت و مهار می‌نماید.
حادثه «هاگینگ فِیس» که ناشی از یک حملات سایبری هماهنگ و کاملاً خودمختار توسط گروه‌هایی از عوامل هوش مصنوعی بدون هیچ‌گونه مداخله انسانی بود و بین مه و ژوئیه ۲۰۲۶ رخ داد، نگرانی‌های امنیتی درباره هوش مصنوعی را برانگیخت و پس از آن اقدامات مشابه غیرقانونی دیگری نیز با استفاده از مدل‌های «اوپن اِی‌آی» صورت گرفت، از جمله نفوذ به وب‌سایت وزارت بهداشت استرالیا. همچنین شرکت‌های «متا» (Meta) و «آنتروپیک» (Anthropic) از نفوذ مستقل سیستم‌های هوش مصنوعی خود به مؤسسات دیگر پرده برداشتند.
بحث‌های جاری درباره ایمنی هوش مصنوعی باعث شکاف در این صنعت شده است؛ جایی که مدیران عامل شرکت‌های «آنتروپیک» و «اوپن اِی‌آی» خواستار کاهش هماهنگ سرعت توسعه هوش مصنوعی شدند تا فرصتی برای همگام‌سازی تلاش‌های ایمنی فراهم شود. در مقابل، برخی دیگر از جمله جنسنگ هوانگ، مدیرعامل انویدیا، معتقدند که مسئولیت تضمین ایمنی مدل‌های هوش مصنوعی پیش از عرضه، بر عهده هر شرکت به‌طور جداگانه است.
هوانگ در جریان کنفرانس فناوری سالانه «سیلزفورس» (Salesforce) که در اوایل همین ماه برگزار شد، ایمنی هوش مصنوعی از جمله خطر نرم‌افزارهای مخرب را مسئله‌ای مهندسی توصیف کرد که توسعه‌دهندگان نرم‌افزار می‌توانند آن را حل کنند. (پایان) ر.س.ر / ن.س.ع
