مطالعه‌ای هشدار می‌دهد که از هوش مصنوعی متن‌باز برای توسعه سلاح‌های بیولوژیک و شیمیایی سوءاستفاده شود - سرماد

یک مطالعه امنیتی هشدار داده است که پیشرفت هوش مصنوعی، به‌ویژه مدل‌های منبع‌باز، ممکن است به بازیگران مخرب دسترسی به اطلاعات را برای توسعه سلاح‌های شیمیایی و بیولوژیکی آسان‌تر کند.

بر اساس گزارشی که توسط گروه تحقیقاتی «کریسون فلیر» (Crimson Flare) تهیه شده است، برخی از مدل‌های هوش مصنوعی موجود در بازار قابل تغییر هستند تا سیستم‌های حفاظتی تعبیه‌شده در آن‌ها حذف شود؛ این امر به آن‌ها اجازه می‌دهد تا به پرسش‌هایی پاسخ دهند که مدل‌های اصلی از برخورد با آن‌ها خودداری می‌کنند.

پژوهشگران امنیتی هشدار می‌دهند که این تحولات ممکن است موانع فنی را برای افرادی که فاقد تخصص هستند، کاهش دهد؛ در حالی که پیش از این، دانش لازم برای کار با مواد بسیار خطرناک عمدتاً در میان دانشمندان و متخصصان متمرکز بود.

یکی از روش‌های رایج برای دور زدن محدودیت‌های ایمنی در مدل‌های هوش مصنوعی به‌طور غیررسمی «تخریب» (Jailbreaking) نامیده می‌شود که هدف آن حذف بخش‌هایی از مدل است که مسئول رد برخی درخواست‌ها هستند. بر اساس گزارش، این فرآیند می‌تواند در مدت زمان کوتاهی و با استفاده از ابزارهای موجود در اینترنت و دانش پایه‌ای برنامه‌نویسی انجام شود.

خطر تنها به امکان تغییر مدل‌ها محدود نمی‌شود، بلکه می‌توان نسخه‌های از پیش تغییر یافته را نیز در اینترنت یافت و دانلود کرد. روزنامه «دیلی میل» اعلام کرده است که توانسته در عرض چندین دقیقه چندین نسخه از مدل‌های موجود را که «غیرمحدود» توصیف می‌شوند، پیدا کند.

گزارش اشاره می‌کند که برخی از این مدل‌ها تنها اطلاعات عمومی ارائه می‌دهند، در حالی که مدل‌های دیگر ممکن است پاسخ‌های دقیق‌تری ارائه کنند؛ موضوعی که نگرانی‌هایی را درباره امکان استفاده از آن‌ها در فعالیت‌های خطرناک ایجاد کرده است.

گزارش هشدار می‌دهد که مدل‌های زبانی بزرگ منبع‌باز، قدرتمند و غیرمحدود، ممکن است تهدیدی فزاینده برای امنیت ملی ایجاد کنند، به‌ویژه زمانی که می‌توان آن‌ها را به‌صورت محلی و بدون نیاز به اتصال به سرورهای شرکت‌های توسعه‌دهنده اجرا کرد.

این مدل‌ها با خدمات هوش مصنوعی که از طریق اینترنت کار می‌کنند متفاوت هستند، زیرا کاربران می‌توانند مدل را دانلود کرده و مستقیماً روی دستگاه خود اجرا کنند. این موضوع نظارت بر استفاده از آن‌ها را دشوارتر می‌کند، زیرا داده‌ها و درخواست‌ها لزوماً از سرورهای خارجی که شرکت‌ها یا مقامات مربوطه می‌توانند آن‌ها را نظارت کنند، عبور نمی‌کنند.

گزارش معتقد است که این تحول تغییر مهمی نسبت به سال‌های گذشته است، زمانی که توان محاسباتی لازم برای اجرای محلی مدل‌های پیشرفته هوش مصنوعی محدود بود و تنها در دسترس تعداد کمی از کاربران قرار داشت.

پژوهشگران تخمین می‌زنند که حدود ۸۷ درصد از خانوارها اکنون قادر به اجرای برخی سیستم‌های هوش مصنوعی به‌صورت محلی با استفاده از تجهیزات موجود خود هستند؛ این بدان معناست که دسترسی به این فناوری‌ها دیگر منحصر به مؤسسات بزرگ یا آزمایشگاه‌های تخصصی نیست.

پروفسور الیستر هی، سم‌شناس بریتانیایی و متخصص جنگ شیمیایی، گفته است که هوش مصنوعی سطح تخصص فنی مورد نیاز برای کار با مواد خطرناک را کاهش داده است، در حالی که پیش از این دانش لازم برای این کار مانعی برای غیرمتخصصان محسوب می‌شد.

هی افزود که پیشرفت آزمایشگاه‌های ابری و ابزارهای هوش مصنوعی ممکن است امکان واگذاری بخشی از دانش و تخصص لازم به سیستم‌های دیجیتال را فراهم کند.

پس از مشاهده پاسخ‌هایی که یکی از مدل‌های هوش مصنوعی ارائه داده بود، هی به پژوهشگران گفت که اطلاعات ارائه‌شده توسط مدل شبیه به «دستور پخت» است و معتقد است که این اطلاعات به سطح دانشی نزدیک می‌شود که دانشجویان آزمایشگاه‌ها دارند.

با این حال، گزارش تأکید می‌کند که خطر اجرای حمله تروریستی با استفاده از سلاح‌های شیمیایی یا بیولوژیکی همچنان پایین است، به دلیل موانع فنی و عملیاتی بزرگ مرتبط با تولید و مدیریت این سلاح‌ها.

اما پژوهشگران هشدار می‌دهند که پیشرفت هوش مصنوعی ممکن است در آینده با تسهیل دسترسی به دانشی که پیش‌تر نیازمند آموزش علمی تخصصی بود، ماهیت این خطرات را تغییر دهد؛ امری که چالش‌های جدیدی را پیش روی دولت‌ها و شرکت‌های فناوری برای جلوگیری از سوءاستفاده از این مدل‌ها قرار می‌دهد.