شورای امنیت بر «توقف هوش مصنوعی» بحث می‌کند
رهبران شرکت‌های هوش مصنوعی از شورای امنیت بین‌المللی خواستند تا هوشیاری را افزایش داده و استانداردهای ایمنی وضع کنند، در حالی که ایالات متحده از ترس برتری چین، از کند کردن توسعه خودداری کرد.
ترجمهٔ قیاس از النهار — منبع اصلی
سازمان ملل متحد – آژانس‌ها: رهبران شرکت‌های پیشرو در حوزه هوش مصنوعی به افزایش هوشیاری نسبت به این فناوری دعوت کردند. داریو آمودی، مدیرعامل شرکت «آنتروپیک» توسعه‌دهنده مدل «کلود»، متعهد شد در صورت لزوم سرعت توسعه را کاهش دهد تا از ایمنی نسخه‌های جدید اطمینان حاصل شود. آمودی پیش‌تر بحث درباره کنترل سرعت توسعه هوش مصنوعی را آغاز کرده بود، در حالی که نگرانی‌هایی درباره تأثیر آن بر بشریت و احتمال از دست رفتن کنترل بر آن وجود داشت.
در جلسه فوق‌العاده شورای امنیت که در شب چهارشنبه به پنجشنبه برگزار شد، سام آلتمن، مدیرعامل شرکت «اوپن‌ای‌آی» توسعه‌دهنده «چت‌جی‌پی‌تی»، گفت: «این لحظه نیازمند دقت و مراقبت ویژه‌ای است.» او هشدار داد که با افزایش توانایی‌ها و استقلال سیستم‌های هوش مصنوعی، ممکن است این فناوری با سرعتی بیشتر از توانایی نهادهای نظارتی برای همگامی با آن پیش برود یا در دست تعداد محدودی از ذی‌نفعان متمرکز شود.
آلتمن در میان گروهی از چهره‌های برجسته این صنعت بود که تحولات هوش مصنوعی را به شورای امنیت اطلاع دادند؛ این در حالی است که نگرانی‌های اخیر درباره خروج این فناوری از کنترل و فراخوان‌ها برای کاهش سرعت توسعه آن افزایش یافته است. آلتمن در برابر شورای امنیت متشکل از ۱۵ کشور گفت: «این صنعت نباید پذیرای سطح نامتناسبی از خطرات فناوری صرفاً به این دلیل باشد که منافع آن بسیار بزرگ و مهم است و اجازه نمی‌دهد سرعت توسعه کاهش یابد.»
پس از او آمودی گفت که شرکت او می‌پذیرد هرچه مدل‌های هوش مصنوعی قدرتمندتر شوند، «به استانداردهای ایمنی سخت‌گیرانه‌تری نیاز خواهد بود» و تأکید کرد که هدف «آنتروپیک» بهبود توانایی خود در جلوگیری از سوءاستفاده از این فناوری است. آمودی در یک تماس ویدیویی گفت: «تا حد لازم سرعت کار را کاهش خواهیم داد تا مطمئن شویم هر نسل جدید از فناوری هوش مصنوعی که عرضه می‌کنیم، واقعاً ایمن است.»
لیست سخنرانان در شورای امنیت شامل کلیمان دولانگ از شرکت «هاگینگ‌فیس» بود که اخیراً هدف حملات سایبری قرار گرفت؛ حملاتی که توسط یک برنامه مستقل توسعه‌یافته توسط «اوپن‌ای‌آی» انجام شد و آغازگر مجموعه‌ای از حوادثی بود که زنگ خطر را درباره این فناوری با توسعه سریع به صدا درآورد.
آلتمن تأکید کرد که شرکت او تا حد امکان سعی خواهد کرد «مسیر میانه‌ای» را طی کند و افزود: «ما نمی‌خواهیم در تله خوش‌بینی کور گرفتار شویم»، در حالی که همزمان از «رویکرد فاجعه‌بار» نسبت به امور هشدار داد. دولانگ توضیح داد که اگرچه شرکت او قربانی حملات مبتنی بر هوش مصنوعی شده بود، اما از همان فناوری برای مقابله با این تلاش‌ها استفاده کرد. او معتقد بود که «جهان بیش از هر زمان دیگری به هوش مصنوعی متن‌باز برای دفاع از خود نیاز دارد.»
آلتمن، آمودی و تعدادی از مقامات ارشد شرکت‌های هوش مصنوعی از مدتی پیش خواستار نظارت جهانی بر این فناوری شده‌اند. «اوپن‌ای‌آی» از ایالات متحده خواسته است تا رهبری یک تلاش بین‌المللی برای تعیین استانداردهای هوش مصنوعی را بر عهده گیرد. با این حال، دو پیشرو در این صنعت، یعنی واشنگتن و پکن، هرگونه مقررات یا محدودیت‌هایی که شرکت‌های ملی آن‌ها را در مسابقه پرشتاب برای تسلط بر این فناوری دست‌وپا بزند، رد می‌کنند.
دونالد ترامپ، رئیس‌جمهور ایالات متحده، گفت که ایالات متحده باید جایگاه خود را در مسابقه هوش مصنوعی حفظ کند و هشدار داد که باخت در این مسابقه می‌تواند کشور را در موقعیت نامطلوبی قرار دهد. همچنین دولت او بر رد فراخوان‌های خواستار کاهش سرعت توسعه هوش مصنوعی تأکید کرد و استدلال نمود که هرگونه کندی ممکن است به چین فرصت دهد تا شکاف فناوری را کاهش دهد.
