«آنتروپیک» هشدار داد: مدل‌های هوش مصنوعی ممکن است به زودی شروع به خودتکثیر کنند
شرکت آنتروپیک از توانایی مدل‌های کوچک هوش مصنوعی برای خودتکثیر خودکار بر روی دستگاه‌های اینترنت اشیاء بدون دخالت انسانی هشدار داد.
ترجمهٔ قیاس از الراي — منبع اصلی
شرکت «آنتروپیک» اعلام کرد که آزمایش‌های آن نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده به اندازه کافی توانمند باشند تا خود را به‌طور خودکار بر روی دستگاه‌های تجاری «اینترنت اشیاء» مانند فریزرهای هوشمند و تلویزیون‌های اندرویدی از برندهای ناشناخته، کپی کنند.
شرکت آنتروپیک در آزمایش‌های خود بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های دارای آسیب‌پذیری‌های امنیتی را شناسایی کرده و خود را به آن دستگاه‌ها کپی کنند و بدون مداخله انسانی به گسترش خود ادامه دهند. این شرکت دریافت که مدل‌های کوچکی که کمتر از ۳۰ میلیارد پارامتر دارند، می‌توانند مراحل متعدد لازم برای فرآیند کپی‌سازی خودکار را تکمیل کنند. با این حال، شرکت متوجه شد که این مدل‌های هوش مصنوعی در تکمیل کل توالی از ابتدا تا انتها با دشواری مواجه می‌شوند.
در آزمایش‌های ساده‌شده‌ی آن‌ها، که در آن برخی اقدامات امنیتی حذف شده بودند، «آنتروپیک» دریافت که مدل «JLM-5.2» و مدل‌های قدرتمندتر از آن قادر به کپی‌سازی خودکار کامل از ابتدا تا انتها بودند.
«آنتروپیک» هشدار داد که مدل‌هایی که خود را کپی می‌کنند، به دلیل نبود نقطه کنترل متمرکز برای غیرفعال‌سازی آن‌ها، متوقف کردنشان دشوار خواهد بود. همچنین، برخلاف بدافزارهای سنتی، این مدل‌ها قادرند دستگاه‌های ناآشنا را به‌طور خودکار شناسایی کرده و پردازنده‌های مراکز داده را هدف قرار دهند.
تمرکز شرکت در پژوهش خود بر دستگاه‌های اینترنت اشیاء مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و سایر دستگاه‌های متصل به اینترنت بود، زیرا این دستگاه‌ها معمولاً به‌طور کافی محافظت نمی‌شوند.
همچنین، شرکت پیشرو در حوزه هوش مصنوعی هشدار داد که اگر مدل‌های کوچک با همان سرعت بی‌سابقه‌ای به بهبود ادامه دهند، تا پایان سال جاری قادر به کپی‌سازی مستقل خود خواهند بود و پس از آن، مدل‌های کپی‌سازی کوچک مبتنی بر وزن‌ها نیز به سرعت از آن‌ها پیروی خواهند کرد.
«آنتروپیک» همچنین اشاره کرد که این سیستم‌های هوش مصنوعی مستقل احتمالاً به کندی خود را کپی می‌کنند و به منابع محاسباتی در دسترس گسترده متکی هستند و از نظر ایمنی کافی برخوردار نیستند.
