«آنتروپیک»: هوش مصنوعی به توسعهی سیستمهای آیندهی خود توسط خودش نزدیک میشود
شرکت «آنتروپیک»، یکی از بزرگترین شرکتهای هوش مصنوعی، اعلام کرد که سیستمهای هوش مصنوعی بهطور فزایندهای قادر به توسعه نسخههای آینده خود بهصورت خودکار شدهاند؛ امری که نگرانیهای رو به رشد را در خصوص خطرات این فناوری تشدید میکند.
بحث و جدل پیرامون خطرات هوش مصنوعی در ماههای اخیر، بهدنبال وقوع چندین حادثه و صدور هشدارهایی از سوی متخصصان این حوزه، شدت گرفته است.
«آنتروپیک» گفت که ربات گفتوگویی «کلود» در حال حاضر بیش از یکچهارم از فعالیتهای تحقیق و توسعه این شرکت را بر عهده دارد و در بیش از ۹۰ درصد از وظایف با کارکنان انسانی همکاری میکند، به نقل از خبرگزاری «فرانس پرس».
این شرکت افزود که اطلاعات خود را منتشر میکند تا به عموم مردم، سایر نهادهای ذیربط و دولتها «نگاهی شفافتر به سرعت پیشرفت هوش مصنوعی» بدهد، در حالی که «جهان در حال فکر کردن به کُند کردن» این روند است.
دارینو آمودی، مدیرعامل آنتروپیک، این ماه خواستار کُند کردن توسعه هوش مصنوعی شد؛ در حالی که نگرانیهایی که توسط پیشرفت سریع این فناوری شعلهور شدهاند، بر سر از دست دادن شغلها، افزایش چشمگیر تقاضا برای انرژی و اثرات زیستمحیطی مراکز داده متمرکز است.
نگرانیها از آنکه طراحان ابزارهای هوش مصنوعی کنترل بر سیستمهای خود را از دست بدهند، افزایش یافته است؛ بهویژه پس از آنکه گزارشهایی مبنی بر خروج خودبهخود چندین مدل از آنتروپیک و رقیب آن «اوپنایآی» از محیطهای ایزولهای که در آنها فعالیت میکردند، اتصال به اینترنت و نفوذ به سایتهای اینترنتی و پلتفرمها منتشر شد.
«آنتروپیک» در گزارشی خود گفت که «شتاببخشی به مدلها برای توسعه خودشان میتواند فهم انسانها از این سیستمها یا کنترل بر آنها را دشوارتر کند».
این شرکت افزود: «بنابراین، مهم است که این نشانهها را به اشتراک بگذاریم تا درک کنیم جهان تا چه حد به مرحله توسعه خودکار تکراری نزدیک شده است؛ یعنی مرحلهای که یک مدل بتواند بهطور کاملاً مستقل، مدلی را که جانشین آن خواهد شد، توسعه دهد».
تا ماه اوت، «کلود» ۲۶ درصد از فعالیتهای تحقیق و توسعه آنتروپیک را بر عهده داشت؛ به این معنا که این مدل قادر به انجام اکثر مراحل یک وظیفه از ابتدا تا انتها، تحت نظارت انسانی، است.
«آنتروپیک» مشاهده کرده است که «کلود» هنوز قادر به کارکردن «بهطور کاملاً مستقل» نیست.
این شرکت توضیح داد که حدود ۳۰ هزار ابزار هوش مصنوعی دارد که در حوزههای تحقیق و مهندسی فعالیت میکنند؛ اشارهای به برنامههایی که قادر به انجام وظایف هستند.
پیشبینی میشود «آنتروپیک» پیش از «اوپنایآی» از طریق یک عرضه اولیه سهام بزرگ در اواخر امسال وارد بازارهای مالی شود، علیرغم نگرانیهای مربوط به تنظیمگری این بخش.
