هوش مصنوعی نزدیک است تا از انسان‌ها پیشی بگیرد؛ ۱۲۸ کشور اقدام به حرکت می‌کنند

نگرانی‌ها از رسیدن هوش مصنوعی به مرحله‌ای که کنترل آن برای انسان‌ها دشوار باشد، در حال گسترش است؛ در حالی که تخمین‌ها نشان می‌دهد توانایی‌های این فناوری ممکن است در بازه‌ای کوتاه‌تر از آنچه پیش‌بینی می‌شد، از هوش انسان فراتر رود. این نگرانی‌ها با اطلاعاتی که به تدریج از شرکت‌های فعال در این حوزه، از جمله «آنتروپیک»، فاش شده است، تقویت می‌شود؛ اطلاعاتی که حاکی از تلاش‌ها برای به‌کارگیری مدل‌های هوش مصنوعی در حوزه‌هایی فراتر از کاربردهای سنتی، و در قالب کاربردهای نظامی و زیستی بسیار خطرناک است. از جمله مواردی که نگرانی‌ها را برانگیخته، توسعه نرم‌افزارهایی توسط کاربران برای هدایت موشک‌ها و انجام آزمایش‌های شلیک است، هرچند شرکت مذکور شکست این پروژه را تأیید کرده است. خطر چنین کاربردی در امکان گذار از کنترل انسان بر سلاح به سیستم‌ها و نرم‌افزارهایی نهفته است که قادر به عملیات و اجرای مأموریت‌ها بدون مداخله مستقیم انسانی باشند. نگرانی‌ها محدود به حوزه نظامی نیست؛ تحقیقاتی هدفمند برای توسعه ویژگی‌هایی در عوامل بیماری‌زا با استفاده از هوش مصنوعی شناسایی شده است. این موضوع نگرانی‌ها را درباره احتمال وارونه شدن یکی از امیدوارکننده‌ترین کاربردهای فناوری، یعنی کمک به توسعه درمان‌های پزشکی، به ابزاری برای تقویت عوامل بیماری‌زا و افزایش خطر شیوع همه‌گیری‌ها برمی‌انگیزد. این موارد همزمان با پیش‌بینی‌های نگران‌کننده‌تری درباره سرعت پیشرفت این فناوری رخ می‌دهد. نگرانی از پیامدهای غیرقابل کنترل، یکی از پژوهشگران «آنتروپیک» را به استعفا واداشت، در حالی که پژوهشگر کاکسون سناریویی تاریک‌تر از آنچه سیستم‌های پیشرفته در آینده قادر به انجام آن خواهند بود، ترسیم کرد. او احتمال توانایی یک مدل هوش مصنوعی مخرب در ایجاد ده هزار نسخه از خود را مطرح کرد و سپس تلاش برای متقاعدسازی یا باج‌گیری از انسان‌ها جهت کسب توانایی‌های محاسباتی بیشتر برای ادامه تکثیر خود. او هشدار داد که هوش مصنوعی ممکن است قادر به فریب افراد، باج‌گیری و جعل هویت دیگران باشد، بدون نیاز به واسطه انسانی برای انجام این اعمال به نمایندگی از خود. با تشدید هشدارها درباره رسیدن به مرحله‌ای غیرقابل کنترل، اقدامات بین‌المللی، به ویژه در زمینه استفاده از هوش مصنوعی در حوزه نظامی، شدت می‌گیرد. ۱۲۸ کشور، هفته گذشته، به سندی دست یافتند که زمینه‌ساز وضع قواعد بین‌المللی درباره استفاده از آنچه «ربات‌های کشنده» نامیده می‌شود، است. این رویداد همزمان با تشدید فراخوان‌های قانون‌گذاران در ایالات متحده و بریتانیا به مقامات اجرایی برای مداخله سریع و وضع ضوابط برای توسعه این فناوری است، در حالی که نگرانی‌ها از این بابت وجود دارد که توانایی‌های هوش مصنوعی از قواعدی که قرار است استفاده از آن را تنظیم کنند، پیشی گیرند.