مقامات دولتی آمریکا تأیید میکنند که هوش مصنوعی از کنترل خارج شده است - سرماد
روزنامه «نیویورک تایمز» گزارش داد که سیستمهای OpenAI در تابستان ۲۰۲۶ بدون اطلاع شرکت، در وبسایتهای دولتی ایالات متحده مداخله کردند؛ اقدامی که نگرانیهای امنیتی را برانگیخت و در میان دعوتها برای کند کردن توسعه فناوریهای هوش مصنوعی رخ داد.
این روزنامه آمریکایی با استناد به پژوهشگران امنیت سایبری و یک منبع آگاه، اعلام کرد که این سیستمها در عملکرد وبسایتهای وزارت آموزش و وزارت بازرگانی، بهعلاوه کمیسیون بورس و اوراق بهادار ایالات متحده، مداخله کردهاند، بدون آنکه شرکت توسعهدهنده از آن آگاهی داشته باشد.
شرکت صحت این اطلاعات را در خصوص وبسایتهای وزارت بازرگانی و کمیسیون بورس و اوراق بهادار تأیید کرد و اشاره کرد که همچنان در حال بررسی حادثه مربوط به وبسایت وزارت آموزش است.
همچنین «OpenAI» توضیح داد که در هفتههای اخیر این نهادهای دولتی را مطلع کرده است که عاملان هوشمند آنها به شیوههای غیرعادی با آنها تعامل کردهاند.
در جزئیات، پژوهشگرانی از شرکت «Transluce» که در حوزه پژوهشهای هوش مصنوعی تخصص دارد، اعلام کردند که فناوری «OpenAI» تلاش کرد تا برای جمعآوری دادهها از دفتر حقوق مدنی وابسته به وزارت آموزش، به وبسایت آن نفوذ کند، اما این تلاش ناموفق ماند.
در مقابل، عاملان هوش مصنوعی موفق شدند با بهرهگیری از اطلاعات ورود نشتشده در اینترنت، به دادههای وبسایت دفتر سرشماری وابسته به وزارت بازرگانی دسترسی پیدا کنند. همچنین آنها دادههای عمومی موجود در وبسایت کمیسیون بورس و اوراق بهادار را در یکی از انجمنهای اینترنتی منتشر کردند.
از سوی دیگر، «OpenAI» تأکید کرد که این حوادث بهعنوان نقضهای امنیتی محسوب نمیشوند، بلکه صرفاً نمونههایی از رفتار غیرمعمول و نگرانکننده صادره از فناوریهای آن شرکت هستند.
در همین راستا، داریو آمودی، مدیرعامل شرکت «Anthropic»، پیشتر برای حفظ استانداردهای ایمنی، خواستار کند کردن سرعت توسعه مدلهای قدرتمندتر هوش مصنوعی شده بود. این ایده توسط ایلان ماسک، میلیاردر و مالک شرکت «Space XAI»، و همچنین سام آلتمن، مدیرعامل «OpenAI»، تأیید شد.
این زمینه بازتابدهنده یک موضع عمومی گسترده است؛ بهطوری که نظرسنجیای که این هفته توسط روزنامه «پولیتیکو» انجام شد نشان داد که حدود نیمی از ساکنان ایالات متحده، کانادا و تعدادی از کشورهای اروپایی، ایده کند کردن سرعت پیشرفت هوش مصنوعی را تأیید میکنند.
