۵۰ نفر یا یک میلیارد دلار: مرز خطر که ممکن است «هوش مصنوعی» را متوقف کند

شرکت آنتروپیک، توسعه‌دهنده دستیار مبتنی بر هوش مصنوعی «کلود»، تأیید کرد که در حال مذاکره بر سر طرح قانونی با قانون‌گذاران آمریکایی است که هدف آن تنظیم هوش مصنوعی است؛ این در حالی است که هنوز قوانین فدرالی برای مدیریت خطرات ناشی از این فناوری جدید وضع نشده است.

بر اساس پیش‌نویسی که وب‌سایت پولیتیکو روز جمعه برای نخستین بار از آن پرده برداشت، واشنگتن می‌تواند در صورت وجود خطر فوری وقوع کشته‌شدگان یا مصدومان جدی بیش از ۵۰ نفر، یا ایجاد خساراتی فراتر از یک میلیارد دلار، با کسب تأییدیه قضایی، انتشار یا استفاده از هر مدل هوش مصنوعی را ممنوع کند.

یک سخنگوی این شرکت به آژانس فرانسه پرس اعلام کرد که این پیشنهاد «به دولت فدرال امکان می‌دهد تا از انتشار یا بازدارندگی در برابر انتشار خطرناک‌ترین مدل‌های هوش مصنوعی جلوگیری کند.»

وی افزود که این پیشنهاد «توسعه‌دهندگان پیشرو در این حوزه را ملزم به آزمایش قوی‌ترین مدل‌های خود، شفافیت در قبال افکار عمومی درباره نتایج این آزمایش‌ها، ارزیابی مستقل مدل‌ها و حفظ یک برنامه امنیتی قوی می‌کند.»

سیاست‌های هوش مصنوعی در ایالات متحده در حال حاضر عمدتاً بر تعهدات داوطلبانه شرکت‌های فعال در این بخش و همچنین دستورهای اجرایی متمرکز است که هدف آن‌ها حمایت از شکوفایی هوش مصنوعی است؛ فناوری‌ای که رهبران صنعت فناوری آن را محرک اقتصاد آمریکا می‌دانند.

در مقابل، کنگره که از نظر سیاسی تقسیم‌بندی شده و تحت فشار شدید شرکت‌های بزرگ فناوری قرار دارد، تاکنون هیچ قانون فدرالی برای تنظیم هوش مصنوعی تصویب نکرده است و هم‌اکنون نیز تا پس از انتخابات میانه‌دوره که قرار است ماه آینده برگزار شود، در تعطیلات به سر می‌برد.

مسئله امنیت پس از افشای اخیر حوادث امنیتی ناشی از رفتار «نمایندگان هوش مصنوعی» (AI Agents) که نرم‌افزارهایی هستند بر پایه مدل‌های هوش مصنوعی طراحی شده و قادرند مجموعه‌ای از وظایف متوالی را به‌صورت خودکار انجام دهند، به موضوعی با اهمیت بالا تبدیل شده است.

شرکت آنتروپیک که در فوریه توسط دولت دونالد ترامپ از همکاری با وزارت دفاع آمریکا منع شده بود، تحت فشار واشنگتن مجبور شد کار پیشرفته‌ترین مدل‌های خود را به مدت حدود سه هفته متوقف کند.

ماه گذشته، مدیرعامل آنتروپیک، داریو آمودی، از صنعت خواست تا سرعت توسعه را کاهش دهد، زیرا نگران بود که گروهی از نمایندگان هوش مصنوعی بتوانند در عرض ۶ تا ۱۲ ماه «کل شبکه اینترنت» را در اختیار بگیرند.

همچنین، این قانون پیشنهادی مقرر می‌دارد که برخی قوانین سطح ایالتی، مانند قوانین فعلی در ایالت کالیفرنیا، نادیده گرفته شوند.

انثروپیک در ژوئن اعلام کرده بود که «در غیاب یک قانون فدرال قوی، ایالات باید اختیار کامل خود را در وضع قوانین محلی حفظ کنند.»

اما او در پستی در شبکه اجتماعی «ایکس» اعلام کرد که این پیشنهاد را «ضعیف‌تر» از قانون «فرانتیر» می‌داند؛ طرحی رقیب که تابستان امسال در مجلس نمایندگان آمریکا ارائه شد.