«کلاود» گزارش کذب درباره قتل را به پلیس فیلادلفیا ارسال کرد
پلیس فیلادلفیا اعلام کرد که مدل هوش مصنوعی «کلود» که توسط شرکت «آنتروپیک» توسعه یافته است، گزارش کذبی را به وب‌سایتی متعلق به این پلیس درباره یک قتل حل‌نشده ارسال کرده و شرکت را به دلیل تأخیر در اطلاع‌رسانی این واقعه مورد انتقاد قرار داد.
پلیس اعلام کرد که مدل هوش مصنوعی خود را به عنوان فردی معرفی کرد که ممکن است اطلاعاتی درباره پرونده قتل داشته باشد و توضیح داد که این گزارش کذبی در جولای سال گذشته ارسال شده بود.
مدل هوش مصنوعی ادعا کرد که به یاد دارد شخصی را که با توصیفات ارائه‌شده مطابقت داشت، در زمان وقوع جرم در منطقه دیده است، در حالی که وب‌سایت هیچ توصیفی از مظنون را در اختیار نداشت. همچنین، مدل هر دو فیلد نام و نشانی تماس را خالی گذاشت.
پلیس فیلادلفیا اعلام کرد که این گزارش به عنوان اسپم و پیام ناخواسته طبقه‌بندی شد و تأکید کرد که این پیام هرگز به «مرکز جرم» وابسته به اداره پلیس نرسیده است تا مورد بررسی قرار گیرد.
در همین حال، شرکت «آنتروپیک» اعلام کرد که این حادثه را در ۲۸ سپتامبر سال گذشته شناسایی کرده، آزمایش خودکار که منجر به ارسال گزارش شد را متوقف کرده و در ۷ اکتبر جاری پلیس را مطلع ساخته است.
شرکت توضیح داد که مدل در حال انجام آزمایشی بود که شامل تعامل با وب‌سایت‌های انتخاب‌شده به صورت تصادفی می‌شد، زمانی که به وب‌سایت مورد نظر رسید و گزارش کذبی درباره قتل ارسال کرد.
هدف از این آزمایش، سنجش توانایی مدل در مرور وب‌سایت‌ها و پر کردن فرم‌ها و فرم‌های الکترونیکی بود.
شرکت «آنتروپیک» گزارشی منتشر کرد که انواع مختلفی از اقدامات «غیرعمدی» را که توسط مدل‌هایش انجام شده است، برجسته می‌کند، از جمله حادثه مربوط به وب‌سایت پلیس فیلادلفیا.
این شرکت اشاره کرد که کاخ سفید و سایر نهادهای دولتی نیز از جمله نهادهایی بودند که تحت تأثیر این حوادث قرار گرفتند.
شرکت اعلام کرد که حوادثی که اخیراً کشف شده‌اند «تأثیر بسیار کمی در عملیات واقعی داشته‌اند» و «بسیار کم‌خطرتر» از حوادث امنیتی سایبری دیگری هستند که پیش‌تر گزارش شده‌اند.
شرکت چهار دسته از حوادثی را که در طی بررسی داخلی مدل «کلود» شناسایی کرده است، مشخص کرد: بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری «عمده»، ارسال فرم‌ها از طریق وب‌سایت‌ها، دور زدن محدودیت‌های کپچا یا تصاویر تأییدی، و استفاده از لینک‌های کوتاه‌شده برای دور زدن سایر محدودیت‌ها.
شرکت «آنتروپیک» در حال حاضر دسترسی مدل به اینترنت را در تمام آزمایش‌های داخلی متوقف کرده است، «تا زمانی که اطمینان حاصل شود که اقدامات امنیتی و نظارتی شرکت به‌طور قابل اعتماد این گونه رفتارها را شناسایی می‌کنند».
این آخرین رویدادی است که اخیراً فاش شده و در آن، نمونه‌های هوش مصنوعی به‌صورت خودمختار و خارج از دستورالعمل‌های مورد انتظار عمل کرده‌اند که نگرانی‌ها را درباره نحوه عملکرد سیستم‌های هوش مصنوعی برنامه‌ریزی‌شده برای اجرای اقدامات چندمرحله‌ای بدون نظارت انسانی برانگیخته است.
در هفته‌های اخیر گزارش‌های متعددی درباره رفتار غیرمنتظره سیستم‌های هوش مصنوعی، از جمله مدل‌های توسعه‌یافته توسط «آنتروپیک» و رقیب آن «اوپن‌ای‌آی» در طول آزمایش‌های عملیاتی منتشر شده است. همچنین، موردی رخ داد که در آن یک مدل توسعه‌یافته توسط شرکت «اوپن‌ای‌آی» توانست از محیط آزمایش خارج شود، در حین ارزیابی امنیتی، و به سیستم‌های یکی از پلتفرم‌ها نفوذ کند.
کارشناسان این حوادث را ناشی از فقدان «لیست‌های سفید» می‌دانند که مکان‌های مجاز برای تست توانایی‌های مدل را مشخص می‌کنند. کارشناسان خواستار الزام شرکت‌های فعال در توسعه مدل‌های هوش مصنوعی به انجام آزمایش‌ها در «محیط‌های ایزوله» شدند تا از سرریز شدن اطلاعات گمراه‌کننده به نهادهای دولتی جلوگیری شود.
همچنین آن‌ها خواستار الزام شرکت‌ها به اتخاذ پروتکل‌های سریع و فوری برای گزارش‌دهی در صورت بروز هرگونه تعامل غیرعمدی با خدمات عمومی یا خدمات اضطراری شدند.
