کالیفرنیا نظارت بر هوش مصنوعی را تشدید میکند و به دنبال توسعه «کلید توقف اضطراری» است
گاوین نیوسوم، فرماندار ایالت کالیفرنیا آمریکا، روز جمعه فرمانی اجرایی صادر کرد تا اجرای نظارت مستقل بر شرکتهای هوش مصنوعی در این ایالت تسریع شود و همزمان به توسعه مکانیسم اضطراری برای توقف مدلهای پیشرفته هوش مصنوعی در صورت وقوع حوادث جدی پرداخته شود.
این فرمان دستگاههای ایالتی را به تسریع اجرای دو قانونی که هفته گذشته تصویب شدند، برای ایجاد چارچوبی برای نهادهای مستقل مسئول ارزیابی ایمنی سیستمهای هوش مصنوعی، همراه با ثبتنامی از حسابرسهای متخصص در این حوزه، هدایت میکند.
همچنین این فرمان به تشکیل گروهی از خبرگان مستقل برای ارائه توصیهها ظرف دو ماه درباره تقویت قوانین ایمنی و امنیت هوش مصنوعی، از جمله مشمول کردن شرکتهای توسعهدهنده مدلهای پیشرفته به حسابرسی منظم توسط نهادهای مستقل و بررسی گزارشهای ایمنی و ارزیابیهای ریسکی که توسط شرکتها ارائه میشود، دعوت میکند.
این فرمان به توسعه «کلید توقف اضطراری» برای مدلهای پیشرفته هوش مصنوعی میپردازد، به طوری که اثربخشی آن تحت نظارت مستمر یک نهاد مستقل قرار خواهد گرفت.
بر اساس بیانیهای از دفتر فرماندار کالیفرنیا، این تصمیم پس از حوادثی اتخاذ شده که نگرانیهایی را درباره امنیت و ایمنی سیستمهای هوش مصنوعی ایجاد کرده است، از جمله حادثهای مرتبط با پلتفرم «هگینگ فیس» (Hugging Face) که در زمینه هوش مصنوعی و یادگیری ماشین تخصص دارد.
نیوسوم گفت که کالیفرنیا از کنگره و دولت فدرال دعوت میکند تا چارچوب ایالتی را به عنوان پایهای برای معیارهای ملی تنظیمگری هوش مصنوعی در نظر گرفته و بپذیرند. او معتقد است که فقدان نظارت مؤثر فدرال بر این فناوری نگرانیبرانگیز است، به ویژه با توجه به درخواست مدیران ارشد شرکتهای هوش مصنوعی برای تنظیمگری این حوزه.
او تأکید کرد که ایالت منتظر اقدام نخواهد ماند، بلکه تلاشها را برای وضع نظارت مؤثر و مسئولانه بر هوش مصنوعی تسریع خواهد کرد و بر ضرورت اقدام بدون تأکید تأکید ورزید.
وی افزود که کالیفرنیا در حال تقویت چارچوب تنظیمگری خود برای هوش مصنوعی است و از پذیرش آن به عنوان معیاری اساسی در سطح ملی دعوت میکند.
این تصمیم در میان بحثهای داغ در ایالات متحده درباره خطرات هوش مصنوعی و ضوابط لازم برای تنظیمگری آن، در حالی اتخاذ شده است که برخی خواستار تشدید نظارت بر مدلهای پیشرفته هستند و برخی دیگر مخالف وضع محدودیتهای گستردهتر بر توسعه این فناوری میباشند.
