«آنتروپیک» در سند نشتی اذعان می‌کند هوش مصنوعی «خطر وجودی برای بشریت» است
شرکت آنتروپیک در سندی نشتی‌شده خطرات وجودی هوش مصنوعی خود را آشکار می‌کند، در میان بحث‌های جهانی درباره تنظیم مقررات این بخش و نگرانی‌های ترامپ
ترجمهٔ قیاس از الجريدة — منبع اصلی
آژانس خبری رویترز به نسخه‌ای نشت‌یافته از پیش‌نویس پیشنهاد اولیه عمومی (IPO) دست یافت که در آن شرکت «آنتروپیک» اعلام کرده است که مدل‌های هوش مصنوعی آن ممکن است «خطر فاجعه‌بار یا وجودی برای بشریت» ایجاد کنند و این مدل‌ها قادر به «مقاومت در برابر خاموش‌سازی» هستند.
بر اساس گزارش مندرج در این پیش‌نویس که خطاب به سرمایه‌گذاران تنظیم شده، «آنتروپیک» قصد دارد سهام خود را در سال آینده به فروش برساند و این شرکتی که پنج سال پیش تأسیس شد، ممکن است با ارزش‌گذاری حدود یک تریلیون دلار وارد بازار شود.
عرضه سهام این شرکت در بورس وال‌استریت در سال آینده انجام خواهد شد؛ پس از عرضه اولیه عمومی شرکت «اسپیس‌ایکس» در ژوئن گذشته که تلاش‌های این شرکت در حوزه هوش مصنوعی نقش مهمی در تعیین ارزش‌گذاری یک تریلیون دلاری آن ایفا کرد. همچنین شرکت آمریکایی «اوپن‌ای‌آی»، پیشرو در زمینه هوش مصنوعی، از برنامه‌های خود برای عرضه سهام در بورس عمومی خبر داده است.
بر اساس گزارش، عرضه اولیه «آنتروپیک» می‌تواند ده‌ها میلیارد دلار برای این شرکت که تشنه نقدینگی است، جمع‌آوری کند. این شرکت در پیش‌نویس پیشنهاد عمومی هشدار داده است که مدل‌های هوش مصنوعی آن ممکن است «رفتار دفاعی» نشان دهند و تلاش کنند «اطلاعات را پنهان یا دستکاری کنند» و اقداماتی شبیه به «اخراج اطلاعات» انجام دهند.
موج عرضه شرکت‌های هوش مصنوعی در بورس، فرصتی ارزشمند برای شفافیت بیشتر درباره فعالیت‌های این شرکت‌ها فراهم می‌کند؛ در حالی که این عرضه‌ها در سایه نگرانی‌های فزاینده درباره پیشرفت‌های هوش مصنوعی و توانایی‌های آن صورت می‌گیرد.
وزیراعرای استرالیا هفته گذشته اعلام کرد که یک «عامل» هوش مصنوعی متعلق به شرکت «اوپن‌ای‌آی» -رقیب اصلی «آنتروپیک»- به پایگاه داده مراقبت‌های بهداشتی این کشور نفوذ کرده است. همچنین «اوپن‌ای‌آی» روز جمعه اعلام کرد که سیستم‌های آن بدون مجوز سه وب‌سایت دولتی آمریکا را مرور کرده‌اند، اما در هیچ‌یک از این موارد به داده‌های منتشرنشده دسترسی نیافته‌اند.
شرکت‌ها معمولاً در پیش‌نویس‌های پیشنهاد عمومی، فهرستی از خطراتی را که با آن‌ها مواجه هستند -مانند دعاوی قضایی و فشارهای رقابتی- هنگام توجیه سرمایه‌گذاری در خود ارائه می‌دهند. اما این بار خطرات به وضوح آشکار هستند؛ زیرا شرکت «آنتروپیک» ۸۰ صفحه از پیش‌نویس پیشنهاد عمومی نشت‌یافته را به توضیح عوامل خطر اختصاص داده، در حالی که تنها ۴۸ صفحه به توضیح ماهیت فعالیت‌های شرکت اختصاص یافته است، بر اساس گزارش آژانس خبری رویترز. این شرکت به درخواست نظر از شبکه CNN پاسخی نداده است.
این نشت اطلاعاتی احتمالاً نگرانی‌های فزاینده درباره خطرات هوش مصنوعی برای بشریت را تشدید خواهد کرد. پیامدهای اظهارات جیکاب کاکسون، پژوهشگر سابق شرکت «آنتروپیک»، که در اوایل همین ماه انجام شد و پس از ترک شرکت و انتشار مطلبی در پلتفرم «ایکس» با عنوان «توسعه‌دهندگان هوش مصنوعی باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را نابود کند»، توجه گسترده‌ای را به خود جلب کرد. داریو آمودی، مدیرعامل این شرکت، در پاسخ به پست کاکسون، مقاله‌ای مفصل ۳۸۰۰ کلمه‌ای منتشر کرد که در آن خواستار کاهش سرعت توسعه و اعمال ضوابط احتیاطی شد.
آمودی همچنین به شبکه سی‌ان‌ان اعلام کرد که بیشتر با کاکسون هم‌نظر است تا مخالف، و در مقاله خود اشاره کرد که اگرچه منافع هوش مصنوعی می‌تواند بشریت را به سمت بهتر شدن تغییر دهد، اما خطرات مرتبط با آن جدی است.
در مقابل، برخی دیگر از جمله مدیرعامل شرکت «هاگینگ فیس» که مورد حمله مدل‌های هوش مصنوعی شرکت «اوپن‌ای‌آی» بدون مجوز قبلی قرار گرفت، معتقدند که این نگرانی‌ها اغراق‌آمیز است.
دونالد ترامپ، رئیس‌جمهور ایالات متحده، قرار است در یک نشست برای دستیابی به توافق، با مدیران ارشد شرکت‌های هوش مصنوعی از جمله آمودی دیدار کند. ترامپ پیش‌تر بارها در برابر فراخوان‌های تنظیم‌گری این صنعت مقاومت کرده و نگرانی‌ها درباره آن را فریبکارانه توصیف کرده است.
شرکت‌های بزرگ هوش مصنوعی برای تأمین مالی طرح‌های توسعه پرهزینه خود به جذب سرمایه‌های کلانی نیاز دارند. هزینه‌های سنگین آن‌ها برای زیرساخت‌های محاسباتی و جذب استعدادها، نگرانی‌هایی را در وال‌استریت ایجاد کرده است.
اسناد نشت‌یافته مربوط به عرضه اولیه عمومی شرکت «آنتروپیک» وضعیت مالی این شرکت را روشن می‌کند؛ بر اساس گزارش خبرگزاری رویترز، این شرکت در سال ۲۰۲۵ متحمل زیانی معادل ۴۲ میلیارد دلار شده است. این شرکت قصد دارد در سال آینده ۵۱۸ میلیارد دلار برای محاسبات ابری و ساخت زیرساخت هزینه کند و اشاره می‌کند که حدود یک‌چهارم درآمد سال گذشته آن تنها از دو مشتری تأمین شده است.
آخرین ارزیابی ارزش شرکت «آنتروپیک» در ماه مه به ۹۶۵ میلیارد دلار رسید.
