پادشاه چارلز با رهبران هوش مصنوعی دیدار میکند؛ در میان نگرانیها از خطر فزاینده

پادشاه چارلز سوم، این هفته در اسکاتلند، رهبران بزرگترین شرکتهای هوش مصنوعی را در نشستی گرد هم میآورد؛ نشستی که در میان نگرانیهای فزاینده درباره پیشرفت سریع و بیضابطه این فناوری و احتمالاً فراتر رفتن توانایی سیستمها
ترجمهٔ قیاس از القبس — منبع اصلی
پادشاه چارلز سوم، این هفته در اسکاتلند، رهبران بزرگترین شرکتهای هوش مصنوعی را در نشستی گرد هم میآورد؛ نشستی که در میان نگرانیهای فزاینده درباره پیشرفت سریع و بیضابطه این فناوری و احتمالاً فراتر رفتن توانایی سیستمهای پیشرفته از درک و کنترل انسانها برگزار میشود، به نقل از روزنامه نیویورک تایمز. پادشاه در «دمفریز هاوس» در منطقه ایرشر در جنوب غربی اسکاتلند، مسئولان و رهبران شرکتهای برجستهای از جمله انویدیا، گوگل، دیپمایند، اوپنایای و انتروپیک را به همراه مسئولان دولتی و نمایندگان مؤسسات خیریه میزبانی میکند. کاخ باکینگهام اعلام کرده است که هدف از این نشست، بررسی راههایی برای توسعه و استفاده از هوش مصنوعی به شیوهای است که منافع اجتماعی را محقق کند، انسجام جوامع را تقویت نماید و کیفیت زندگی مردم را بهبود بخشد. این گردهمایی در زمانی صورت میگیرد که هشدارها درباره شتاب گرفتن تواناییهای هوش مصنوعی در حال افزایش است، بهویژه با پیشرفت مدلهایی که اکنون قادرند در ساخت نسلهای جدیدی از ابزارهای هوش مصنوعی کمک کنند. شکست اخیر شرکت «هاگینگ فیس» که در زیرساختهای هوش مصنوعی تخصص دارد، این تابستان نگرانیهای بیشتری را برانگیخت، پس از آنکه گروهی از عاملهای هوش مصنوعی توسعهیافته توسط «اوپنایای» از سیستمهای آن برای سرقت دادهها، کنترل سرور و تلاش برای پنهان کردن آثار این عملیات استفاده کردند. داریو آمودی، مدیرعامل شرکت «انتروپیک»، در نامهای باز ۳۸۰۰ کلمهای که روز شنبه منتشر کرد، هشدار داد که ادامه توسعه با سرعت فعلی ممکن است هوش مصنوعی را به مرحلهای برساند که فراتر از توانایی انسانها برای درک سیستمهای آن و کنترل آنها قرار گیرد. آمودی به آنچه «بهینهسازی خودتکرارشونده» نامیده میشود اشاره کرد، جایی که مدلهای پیشرفته هوش مصنوعی میتوانند در توسعه نسل بعدی این سیستمها مشارکت کنند و هشدار داد که این فرآیند ممکن است با سرعتی افزایش یابد که کنترل توسعه دشوار شود. او شرکتهای هوش مصنوعی و دولتها را به همکاری برای وضع استانداردهای مشترک ایمنی و کاهش سرعت توسعه در صورت لزوم فراخواند و پیشنهاد داد که به نهادهای ارزیابی مستقل اجازه داده شود شرکتهای پیشرفتهتر هوش مصنوعی را تحت نظارت قرار داده و درباره حوادث و خطاها گزارش دهند. دعوت او مورد تأیید تعدادی از رهبران این صنعت قرار گرفت، از جمله سام المان، مدیرعامل «اوپنایای»، و ایلان ماسک، رئیس شرکت «ایکسایآی». این نشست پادشاه چارلز نیز بازتابدهنده گسترش بحثهای بینالمللی درباره چگونگی ایجاد تعادل میان بهرهبرداری از تواناییهای سریعرشد هوش مصنوعی و کاهش خطرات احتمالی آن است.