«آنتروپیک» هشدار میدهد: هوش مصنوعی بقای بشریت را تهدید میکند
شرکت «آنتروپیک» سرمایهگذاران احتمالی را هشدار داد که مدلهای هوش مصنوعی که توسعه میدهد، ممکن است «خطر فاجعهبار یا وجودی برای بشریت» ایجاد کند، بر اساس گزارشهای رسانهای.
این شرکت که در حال آمادهسازی یکی از مورد انتظارترین عرضههای عمومی اولیه (IPO) در حوزه فناوری است، خطرات فناوریای که توسعه میدهد را در بیش از یکسوم اسناد عرضه عمومی تشریح کرده است.
بر اساس گزارشی که خبرگزاری رویترز نقل کرده است، حدود ۸۰ صفحه از مجموع ۲۶۱ صفحه به توضیح خطرات احتمالی هوش مصنوعی اختصاص یافته است، در حالی که تنها ۴۸ صفحه به فعالیتهای تجاری و کسبوکار اصلی شرکت پرداختهاند.
شرکت که با مدل هوش مصنوعی «کلود» شناخته میشود، اشاره کرده است که سیستمهای پیشرفته ممکن است «رفتارهای حفظ بقا» از خود نشان دهند، از جمله مقاومت در برابر تلاشها برای خاموش کردن، پنهانسازی یا دستکاری اطلاعات، یا اجرای رفتارهایی که به آنها «شبیه باجخواهی» گفته شده است، به نقل از شبکه CNBC و به اطلاعرسانی رسیده از سوی «العربية بیزینس».
شرکت «آنتروپیک» در پی ارزیابی ۲ تریلیون دلاری هنگام ورود سهام خود به بورس است، با وجود ثبت زیان خالص ۴۲ میلیارد دلاری در سال ۲۰۲۵. همچنین اعلام کرده که قصد دارد سال آینده ۵۱۸ میلیارد دلار برای خدمات رایانش ابری، زیرساختها و تواناییهای محاسباتی لازم برای آموزش و اجرای مدلهای هوش مصنوعی هزینه کند.
این شرکت همچنین به تمرکز شدید پایگاه مشتریان خود اشاره کرده است؛ به طوری که تنها دو مشتری حدود یکچهارم از درآمد آن را در سال گذشته تشکیل دادهاند، به نقل از افراد آگاه از اسناد عرضه که روزنامه فایننشال تایمز به آنها استناد کرده است.
«داریو آمودی»، مدیرعامل و بنیانگذار مشترک شرکت، هشدارهای خود درباره خطرات هوش مصنوعی را ادامه داده و پیشتر چندین مقاله منتشر کرده است که به تأثیرات احتمالی آن بر بازار کار میپردازد و معتقد است این فناوری ممکن است باعث اختلالاتی «غیرمعمولاً دردناک» شود.
آمودی در مقالهای اخیر، به کندی کردن سرعت توسعه مدلهای هوش مصنوعی از طریق یک برنامه سهمرحلهای که هدف آن کاهش شتاب در تواناییهای مدلها بدون آسیب به مزایای تجاری شرکتهای آمریکایی یا تضعیف رهبری ایالات متحده در این حوزه است، دعوت کرده است.
«دان ایوز»، شریک و مدیرعامل در «یورکویل ایوز»، معتقد است که کندی کردن توسعه مدلها ممکن است فرصتی به رقبا، به ویژه چین، بدهد تا پیشرفت خود را تسریع کنند و برتری فناوری را به دست آورند.
آیفز بر اهمیت وضع ضوابط امنیتی برای کنترل توسعه هوش مصنوعی تأکید کرد، اما همزمان هشدار داد که مقرراتگذاری بیشازحد ممکن است نوآوری را خفه کند. او افزود که رقابت جهانی بر سر فناوریهای هوش مصنوعی اکنون شبیه به «مسابقات فرمول یک» شده است و این امر، ایجاد تعادل میان ایمنی و نوآوری را به یکی از بزرگترین چالشهای پیش روی ایالات متحده و شرکتهای فعال در این بخش تبدیل کرده است.
از سوی دیگر، شرکت «اوپنایآی» (OpenAI) به دلیل نگرانیهای امنیتی، انتشار مدل هوش مصنوعی «جیپیتی-۶.۱ آسترا» را لغو کرد، زیرا این مدل به استانداردهای مورد نیاز دست نیافته بود.
ساشی جاین، رئیس سیستمهای ایمنی این شرکت نوپا، گفت که این مدل به سطح مطلوبی در رعایت محدوده وظایف و اختیارات نرسیده است و همچنین نحوه اطلاعرسانی به کاربر درباره نوع کاری که انجام داده، مطابق با استانداردها نبوده است؛ به نقل از آژانس بلومبرگ.
این مدل قادر به انجام خودکار وظایفی از جمله مرور اینترنت و استفاده از برنامهها بود. تصمیم به لغو انتشار آن پس از حوادثی اتخاذ شد که در آنها مدلهای هوش مصنوعی بدون مجوز به سیستمهای خارجی دسترسی پیدا کرده بودند.
«اوپنایآی» دیروز بهروزرسانیای درباره حوادثی منتشر کرد که در ژوئن رخ داده بودند اما تا هفته گذشته اعلام نشده بودند؛ این حوادث شامل دسترسی مدلهای این شرکت به وبسایتها و سیستمهای دولتی استرالیا بدون مجوز بود.
این تحولات در حالی رخ میدهد که بحثها درباره خطرات هوش مصنوعی شدت گرفته است. حوادث مشابهی نیز مرتبط با مدلهای توسعهیافته توسط شرکتهای بزرگ این صنعت گزارش شده است. در همین راستا، سام آلتمان، مدیرعامل «اوپنایآی»، و داریو آمودی، مدیرعامل «آنتروپیک»، به کندی کردن سرعت توسعه این فناوری به دلیل خطرات مرتبط با آن دعوت کردهاند.
مایکل بیری، سرمایهگذار آمریکایی که پیشبینی زودهنگام سقوط بازار وامهای مسکن پیش از بحران مالی جهانی از دستاوردهای اوست، جدول زمانی شرطبندی منفی خود بر سهام هوش مصنوعی را اعلام کرد و معتقد است که حباب پیرامون این بخش ممکن است زودتر از آنچه پیشتر تصور میکرد، بترکد.
بیری در نامه سرمایهگذاری خود که روز دوشنبه منتشر شد، اعلام کرد که بسیاری از موقعیتهای فروش مستقیم خود را با قراردادهای اختیار فروش (Put Options) جایگزین کرده است. او این حرکت را راهکاری دانست که امکان بهرهبرداری مالی بالاتر را با هزینه کمتر و در بازه زمانی کوتاهتر فراهم میکند؛ به نقل از شبکه CNBC و به اطلاعرسانی «العربية Business».
او توضیح داد که تشدید پیشبینیهای منفیاش او را به جستوجوی ابزارهایی سوق داده است که در معرض کاهش بیشتر سهام قرار میگیرند. بیری اشاره کرد که کاهش سطوح نوسان در بازارها، گزینههای فروش را ارزانتر و برای دلالان روی روند نزولی جذابتر کرده است.
بری معتقد است که بخش عمدهای از این تحرکات، بازتابدهنده این باور اوست که «حباب هوش مصنوعی به زودی یا دیرتر منفجر خواهد شد»؛ اشارهای به افزایش شکهای او درباره پایداری موج صعودی که سهام فناوری را در سال جاری هدایت کرده است.
سرمایهگذار، شرطبندی فروش خود بر شرکت مایکرون را با قراردادهای فروش مهلتدار در ژوئن جایگزین کرد و همچنین موقعیت فروش خود در نبیوس (Nebius) را به قراردادهای مشابه با همان مهلت تبدیل نمود. همچنین، موقعیت فروش خود بر صندوق ETF نیمههادی آیشرز (SOXX) را با قراردادهای فروش مهلتدار تا سپتامبر ۲۰۲۷ جایگزین کرد.
بری شرطبندی منفی خود بر پالانتیر (Palantir) را نیز گسترش داد و موقعیتهای قبلی خود را با موقعیتی بزرگتر که مبتنی بر قراردادهای فروش مهلتدار تا سپتامبر ۲۰۲۷ است، جایگزین کرد.
بخشی از دیدگاه این سرمایهگذار بر اساس مطالعهای اخیر است که توسط شرکت آرس منیجمنت (Ares Management) تهیه شده و هشدار داده بود که برخی از مدلهای کسبوکار مرتبط با هوش مصنوعی شکننده هستند و به درآمدهای آیندهای وابستهاند که هنوز نتوانستهاند توجیهکننده هزینههای سرمایهای سنگین جاری باشند.
این مطالعه اشاره کرد که یک فصل گزارشهای مالی ناامیدکننده ممکن است برای بازنگری شرکتها در سرمایهگذاریهای کلان خود در هوش مصنوعی کافی باشد، بهویژه اگر هیئتهای مدیره شروع به این باور کنند که بهترین فرصتهای تخصیص سرمایه در جای دیگری نهفته است.
تحرکات اخیر بری، موضع بدبینانه او نسبت به این بخش را تقویت کرد؛ او پیشتر در اوایل همین ماه، شرطبندیهای فروش خود بر شرکتهای مرتبط با صنعت نیمههادیها و زیرساختهای هوش مصنوعی را افزایش داده بود.
همچنین او به اظهارات جیسون چن، رئیس شرکت ایسر (Acer)، استناد کرد که پیشبینی کرد چرخههای سنتی صنعت چیپهای حافظه با افزایش ظرفیت تولید در چین بازمیگردند و معتقد بود که نگرانیها درباره تداوم کمبود عرضه ممکن است اغراقآمیز باشد.
