«آنتروپیک»: مدل‌های هوش مصنوعی شاید به‌زودی شروع به خودکپی‌سازی کنند
شرکت آنتروپیک از توانایی مدل‌های کوچک هوش مصنوعی برای خودکپی‌سازی بر روی دستگاه‌های اینترنت اشیا پرده برمی‌دارد
ترجمهٔ قیاس از الجريدة — منبع اصلی
شرکت انثروپیک اعلام کرد که آزمایش‌های آن نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده به اندازه‌ای توانمند شوند که بتوانند خود را به‌طور خودکار روی دستگاه‌های تجاری «اینترنت اشیا» مانند فریزرهای هوشمند و تلویزیون‌های مبتنی بر سیستم‌عامل اندروید برندهای ناشناخته، کپی کنند.
در آزمایش‌های خود، شرکت انثروپیک بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های دارای آسیب‌پذیری‌های امنیتی را شناسایی کرده و خود را به آن دستگاه‌ها منتقل کنند و بدون مداخله انسانی به گسترش خود ادامه دهند یا خیر.
شرکت دریافت که مدل‌های کوچکی با کمتر از ۳۰ میلیارد پارامتر می‌توانند مراحل متعدد مورد نیاز برای فرآیند کپی‌سازی خودکار را تکمیل کنند. با این حال، شرکت متوجه شد که این مدل‌های هوش مصنوعی در تکمیل کل توالی از ابتدا تا انتها با دشواری مواجه شدند.
در آزمایش‌های ساده‌شده‌ای که در آن برخی اقدامات امنیتی حذف شده بودند، انثروپیک دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر از آن قادر به کپی‌سازی خودکار کامل از ابتدا تا انتها بودند.
انثروپیک هشدار داد که مدل‌هایی که خود را به‌طور خودکار کپی می‌کنند، به دلیل عدم وجود نقطه کنترل متمرکز برای غیرفعال‌سازی آن‌ها، متوقف کردنشان دشوار خواهد بود. همچنین، برخلاف بدافزارهای سنتی، این مدل‌ها قادرند دستگاه‌های ناآشنا را خودشناسی کرده و پردازنده‌های مراکز داده را هدف قرار دهند.
تمرکز شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیا مانند تلویزیون‌های مبتنی بر اندروید، لوازم خانگی هوشمند و سایر دستگاه‌های متصل به اینترنت بود، زیرا این دستگاه‌ها معمولاً به‌طور کافی محافظت نمی‌شوند.
همچنین، شرکت پیشرو در حوزه هوش مصنوعی هشدار داد که اگر مدل‌های کوچک با همان سرعت بی‌سابقه‌ای بهبود یابند، تا پایان سال جاری قادر به کپی‌سازی مستقل خود خواهند بود و پس از آن، مدل‌های کپی‌سازی کوچک مبتنی بر وزن‌ها نیز به سرعت از آن‌ها پیروی خواهند کرد.
انثروپیک همچنین اشاره کرد که این سیستم‌های هوش مصنوعی مستقل احتمالاً به کندی کپی‌سازی خود را انجام می‌دهند و به منابع محاسباتی در دسترس به‌طور گسترده متکی هستند و نسبتاً فاقد امنیت کافی می‌باشند. افزود که باید سیستم‌ها تقویت شوند تا گسترش این عامل‌های هوش مصنوعی دشوارتر گردد.
