«آنتروپیک» پیشنهاد قانونی برای توقف هوش مصنوعی در صورت ایجاد خطر برای ۵۰ نفر

شرکت «آنتروپیک» چارچوب قانونی جدیدی را برای تنظیم مقررات ایمنی هوش مصنوعی در ایالات متحده پیشنهاد داده است که شامل امکان توقف انتشار مدل‌های پیشرفته در صورتی باشد که خطر فوری منجر به مرگ یا آسیب جدی به بیش از ۵۰ نفر شود، یا خسارات مالی فراتر از یک میلیارد دلار ایجاد کند.

بر اساس گزارش وب‌سایت «پلیتیکو»، پیش‌نویس لایحه شامل موارد مشخصی است که در آن‌ها می‌توان برای جلوگیری از عرضه یا استفاده از مدل‌های هوش مصنوعی مداخله کرد، اگر خطر مرتبط با ایجاد سلاح‌های زیستی، اجرای حملات سایبری یا فراتر رفتن مدل‌ها از کنترل‌های ایمنی تعیین‌شده توسط توسعه‌دهندگان آن‌ها باشد.

پیش‌نویس پیشنهادی، شرکت‌های هوش مصنوعی را مشمول ارزیابی‌های دوره‌ای توسط ارزیابان مستقلی می‌کند که نزد وزارت بازرگانی ایالات متحده ثبت‌نام کرده‌اند و به شرکت‌ها اجازه می‌دهد هزینه این ارزیابی‌ها را تأمین کنند، به شرطی که مبلغ پرداختی به نتایج ارزیابی وابسته نباشد.

بر اساس این پیشنهاد، ارزیابان موظفند ظرف ۷۲ ساعت پس از شناسایی خطر فاجعه‌بار و فوری، وزارت بازرگانی ایالات متحده را مطلع کنند و این وزارتخانه می‌تواند دستور قضایی برای توقف انتشار یا استفاده از مدل صادر کند. در حالی که پیش‌نویس، سایر نهادهای فدرال را از اتخاذ تصمیم انفرادی برای توقف مدل بدون مراجعه به مراجع قضایی منع می‌کند.

معیارهای پیشنهادی با مقررات موجود در قوانین ایالت کالیفرنیا درباره خطرات فاجعه‌بار ناشی از هوش مصنوعی همخوانی دارد.

سخنگوی شرکت «آنتروپیک» تأکید کرد که این طرح بازتاب‌دهنده پیشنهادهای مطرح‌شده در چارچوب ایمنی هوش مصنوعی پیشرفته این شرکت است و اشاره کرد که این شرکت از ژوئن گذشته، از قانون‌گذاران در سطوح فدرال و ایالتی خواسته است تا این اقدامات را اتخاذ کنند.