هشدار سازمان ملل از «تهدید وجودی» بشریت به دلیل هوش مصنوعی
فولکر تورک، کمیسر عالی حقوق بشر سازمان ملل متحد، هشدار داد که هوش مصنوعی ممکن است «تهدیدی وجودی برای بشریت» باشد و خواستار اقدامات فوری برای کاهش این خطرات شد.
تورک گفت که انسانها در حال حاضر با تهدیداتی «غیرمعمول و حتی بیسابقه» برای حقوق خود مواجه هستند.
او در سخنرانی افتتاحیه شصت و سومین نشست شورای حقوق بشر در ژنو دیروز افزود: «من نگرانیهای متخصصان بخش فناوری را به اشتراک میگذارم که هوش مصنوعی پیشرفته ممکن است تهدیدی وجودی برای بشریت باشد» و خواستار «تلاشی جامع برای وضع ضمانتهای سختگیرانه در مورد ایمنی و امنیت هوش مصنوعی، پیش از آنکه دیر شده باشد» شد.
او پرسید: «اعتراف گستردهای به نیاز به حاکمیت بر هوش مصنوعی وجود دارد، اما اقدامات عملی کجاست؟» و هشدار داد که «هرگونه تأخیر تنها به نفع شرکتهای بزرگ فناوری، مالکان آنها و حامیانشان تمام خواهد شد.»
تورک این واقعیت را که «گروهی اندک از مردان نفوذ تقریباً مطلق بر هوش مصنوعی دارند، که گفته میشود دارای تواناییهای محاسباتی غیرقابل تصور است»، مورد انتقاد قرار داد.
کمیسر عالی حقوق بشر سازمان ملل افزود: «آنها از آزادی سخن میگویند، اما با دقت بیشتر مشخص میشود که این آزادی چیزی جز آزادی بهرهبرداری از دادههای ما نیست.»
تورک اشاره کرد که «هوش مصنوعی که بتواند از محیط آزمایش فرار کند یا برای جلوگیری از متوقف شدن، توسعهدهندگانش را به شantaj (باجگیری) بکشاند، هوش مصنوعیای است که از حدود قدرت قابل قبول فراتر رفته است.»
تورک گفت که در روزهای آینده با شرکتهای هوش مصنوعی صحبت خواهد کرد «تا آنها را به اتخاذ تدابیری که در محدوده کنترل آنهاست برای کاهش خطرات در حال حاضر، ترغیب کند.»
او افزود: «حداقل، نیاز داریم که کشورهای میزبان شرکتهای هوش مصنوعی و آنهایی که در زنجیرههای تأمین این فناوری مشارکت دارند، بر خطوط قرمز واضح و مورد توافق توافق کنند.»
او ادامه داد: «ما به مکانیسمهای نظارتی مستقل و همکاری بسیار قویتر در داخل بخش فناوری در زمینه امنیت نیاز داریم.»
او با بیان اینکه «همچنین باید به پیامدهای هوش مصنوعی بر حقوق بشر، از جمله شیوههای استخدام، اصول بنیادین دموکراسی و محیط زیست ما توجه کنیم»، سخن خود را به پایان رساند.
