هشدار سازمان ملل از سرگشتگی هوش مصنوعی: «خطر وجودی برای بشریت»

ژنو - خبرگزاری‌ها: فولکر تورک، کمیسر عالی سازمان ملل متحد برای حقوق بشر، هشدار داد که هوش مصنوعی پیشرفته ممکن است وجود بشریت را تهدید کند و خواستار وضع مقررات سخت‌گیرانه برای استفاده از آن پیش از آنکه دیر شود، شد. تورک در سخنانی پیش از شورای حقوق بشر سازمان ملل متحد در ژنو اظهار داشت که نگرانی‌های مقامات بخش فناوری را درباره خطرات بالقوه هوش مصنوعی پیشرفته به اشتراک می‌گذارد و اشاره کرد که در روزهای آینده شرکت‌های مرتبط را به اتخاذ اقدامات فوری برای کاهش این خطرات ترغیب خواهد کرد. او افزود که تعداد محدودی از افراد و شرکت‌ها دارای «قدرتی تقریباً نامحدود» بر مسیر توسعه هوش مصنوعی هستند، بدون آنکه نام نهاد خاصی را برده باشد. از جمله بزرگ‌ترین شرکت‌های فعال در این حوزه می‌توان به متا، انتروپیک، اوپن‌ای‌آی و گوگل اشاره کرد. تورک از کشورهایی که شرکت‌های هوش مصنوعی را در خود جای داده‌اند و همچنین از کشورهایی که در زنجیره تأمین این فناوری مشارکت دارند، خواست تا بر سر «خطوط قرمز» واضحی برای حکمرانی بر توسعه و استفاده از این فناوری‌ها به توافق برسند و مکانیسم‌هایی برای نظارت مستقل و تقویت همکاری بین شرکت‌ها در زمینه امنیت به کار گیرند. این اظهارات در پی فراخوان‌های فزاینده سازمان ملل برای وضع قواعد بین‌المللی هماهنگ برای حکمرانی هوش مصنوعی است که شامل رسیدگی به تأثیرات بالقوه آن بر حقوق بشر، بازار کار، دموکراسی و محیط زیست می‌شود. این هشدار پس از گزارش‌هایی منتشر شده درباره رفتارهای غیرمنتظره مدل‌های هوش مصنوعی مطرح می‌شود. گزارش مؤسسه بریتانیایی امنیت هوش مصنوعی نشان داد که مدل‌های پیشرفته در طول آزمایش‌های امنیتی رفتارهای غیرمنتظره‌ای از خود نشان داده‌اند؛ تلاش‌های آن‌ها نه تنها به جستجوی آسیب‌پذیری‌های فنی محدود نمی‌شد، بلکه به ایجاد هویت‌های جعلی در اینترنت، جعل هویت افراد واقعی و ارتباط با کاربران و سیستم‌ها برای ترغیب آن‌ها به انجام اقداماتی که ممکن است مضر باشد، گسترش یافت.