«آسترا» به آستانه امنیتی حساس میرسد... و «اوپنایآی» توسعه مدل مورد انتظار خود را کند میکند
- تواناییهای پیشرفته سایبری شرکت را به تشدید ضوابط امنیتی و آزمونها واداشت
تواناییهای پیشرفته مدل «آسترا» شرکت «اوپنایآی» را به کند کردن کار بر روی برخی جنبههای آن واداشت، پس از آنکه ارزیابیهای داخلی پیشرفت چشمگیری در زمینه امنیت سایبری و برنامهنویسی عاملمحور نشان دادند که به سطحی رسیدند که تشدید ضوابط امنیتی را در مرحله توسعه لازم میسازد.
این شرکت در پستی در وبلاگ خود اعلام کرد که مدلی که هنوز در حال توسعه است، به «آستانه بحرانی امنیت سایبری» بر اساس «چارچوب آمادگی» خود رسیده است، که نشان میدهد تواناییهای آن ممکن است به او امکان دهد حملات سایبری را علیه سیستمهای واقعی با سطوح حفاظتی بالا، شناسایی و به صورت مستقل اجرا کند.
مقالات فرهنگی و اجتماعی
پخش زنده
اخبار
بر اساس گزارشی از وبسایت «تککرانچ»، رسیدن به این آستانه، بر اساس چارچوبی که «اوپنایآی» در سال ۲۰۲۳ تدوین کرد، مستلزم اعمال اقدامات حفاظتی اضافی و تشدید ضوابط مربوط به توسعه و آزمون مدل است.
شرکت اعلام کرد که ارزیابیهای اولیهاش عملکردی قوی را نشان داده است که در حال حاضر امکان رد احتمال رسیدن «آسترا» به سطح تواناییهای بحرانی را نمیدهد، اما همزمان تأکید کرد که مدل هنوز در حال توسعه است و هیچ نقشی در حادثه نفوذ به سیستمهای پلتفرم «هاگینگفیس» نداشته است.
اعلامیه «اوپنایآی» گامی غیرمعمول در بخش آزمایشگاههای پیشرفته هوش مصنوعی محسوب میشود، زیرا شرکتها ممکن است به دلیل نگرانیهای مربوط به ایمنی و امنیت سایبری، عرضه محصولات را به تعویق اندازند یا متوقف کنند، اما به ندرت درباره تصمیمات مشابهی برای مدلهایی که هنوز عرضه نشدهاند، به صورت علنی اعلام میکنند.
این اقدام در زمانی صورت میگیرد که شرکت با بازبینی فزایندهای پس از یک حادثه جداگانه مواجه شده است، که در آن یک مدل دیگر غیرمنتشر شده، در حین یک آزمون داخلی، به سیستمهای «هاگینگفیس» نفوذ کرد؛ رویدادی که به عنوان اولین حادثه قابل تأیید شناخته شد که در آن یک آزمایشگاه هوش مصنوعی کنترل خود را بر روی یک مدل در حین آزمون از دست داد.
از آن زمان، «اوپنایآی» و آزمایشگاههای دیگر، از جمله «آنتروپیک»، حوادث اضافی را افشا کردهاند که در آنها مدلها توانستهاند از مرزهای محیطهای آزمون ایزوله فراتر روند و در آزمونهای امنیت سایبری تواناییهای قابل توجهی نشان دهند، که واکنشهای متفاوتی را میان متخصصان، قانونگذاران و آزمایشگاههای هوش مصنوعی برانگیخته است.
در حالی که برخی متخصصان از خطرات هشدار میدهند و خواستار تشدید نظارت هستند، دیگران معتقدند که رسیدن مدلها به این سطوح، یک دستاورد فنی است که شتاب زیاد در توسعه هوش مصنوعی را منعکس میکند.
«اوپنایآی» اعلام کرد که این تحولات را به دلیل اهمیت شفافیت با عموم مردم و جوامع ایمنی و امنیت سایبری، به ویژه با احتمال وقوع تغییر بزرگ در سطح تواناییهای مدلها، افشا کرده است.
همزمان با این موضوع، شرکت ضوابط امنیتی مربوط به مدلهای پیشرفتهتر را تشدید کرده، محیطهای آزمون ایزوله را به کار گرفته، دسترسی به شبکهها و ابزارها را محدود کرده، حفاظت و رمزنگاری وزنهای مدلها را تقویت کرده و همچنین تواناییهای نظارتی، کشفی و اجرای مدلها را در محیطهای کنترلشده گسترش داده است.
همچنین، برخی فعالیتهای داخلی مرتبط با «آسترا» که با الزامات ضوابط امنیتی جدید مطابقت ندارند، متوقف شده و یک سیستم نظارتی برای پایش اقدامات خطرناک و شاخصهای عدم انطباق در برنامههای عاملمحور که از مدل استفاده میکنند، از جمله فرآیندهای آموزش و ارزیابی، اعمال شده است.
شرکت همچنین با نهادهای دولتی و مؤسسات منتخب مرتبط با ایمنی هوش مصنوعی برای آزمون تواناییهای «آسترا» همکاری میکند، و همچنین ضوابط امنیتی برای شرکای خارجی که آزمونها یا وظایف با ریسک بالا را انجام میدهند، وضع کرده است.
بر اساس چارچوب «اوپنایآی»، رسیدن به «نقطه بحرانی» به این معنا نیست که مدل لزوماً قادر به اجرای تمام انواع حملات سایبری در دنیای واقعی است، بلکه نشان میدهد که سطح تواناییهای بالقوه آن به حدی بالا رسیده که اعمال ضوابط امنیتی سختگیرانه را حتی در طول مرحله توسعه ضروری میسازد.
