«اوپنایآی»: ابزارهای ما تصاویر کاربران «چتجیپیتی» را به اشتباه منتشر کردند
شرکت «اوپنایآی» اعتراف کرد که ابزارهای هوش مصنوعی آن ۵۳ تصویر ارسالی کاربران از طریق پلتفرم «چتجیپیتی» را به اشتباه در اینترنت منتشر کرده است؛ در نشتی جدیدی که این بار دادههای کاربران خود شرکت را در بر میگیرد.
همچنین این غول صنعت هوش مصنوعی که مقر آن در سانفرانسیسکو است، فاش کرد که ابزارهایش به سایتهای وابسته به نهادهای فدرال ایالات متحده نفوذ کردهاند و بدین ترتیب اطلاعاتی را تأیید کرد که پیشتر روزنامه «نیویورک تایمز» منتشر کرده بود؛ با این حال تأکید کرد که در این موارد تنها به اطلاعات عمومی دسترسی داشته است.
«اوپنایآی» توضیح داد که پیوندهای مربوط به ۵۳ تصویر مذکور در دسترس عموم قرار نداشتند و بهطور تصادفی در سایتهای میزبانی وب منتشر شدهاند.
این تصاویر از حسابهایی ارسال شده بودند که مالکان آنها با استفاده از دادههایشان برای توسعه مدلهای شرکت موافقت کرده بودند. پیش از استفاده، این دادهها از یک فیلتر حریم خصوصی دادههای شخصی عبور کرده بودند و شرکت تأیید کرد که دیگر امکان پیوند دادن تصاویر با کاربران ارسالی وجود ندارد.
«اوپنایآی» مشخص نکرده است که آیا این تصاویر افراد قابل شناسایی یا دادههای حساس را نشان میدهند یا خیر.
انتشار تصاویر نتیجه رفتار «عاملهای هوش مصنوعی» بوده است؛ نرمافزارهایی که بر پایه مدلهای هوش مصنوعی طراحی شدهاند و قادرند بهصورت خودمختار زنجیرهای از وظایف متوالی را اجرا کنند.
شرکت توضیح داد که ابزارهای هوش مصنوعی عاملی که در چارچوب پژوهشهایش استفاده میشوند، دادههای آموزشی را به سرویسهای خارجی منتقل کردهاند که در اکثر موارد از سوی کاربران صادر نشده بودند.
به این نکته اشاره کرد که اکثر این انتقالها پیش از تقویت امنیت پژوهشها در ماه اوت (اوت/آگوست) انجام شده است.
تأکید کرد که در حال حاضر فرآیند بررسی جامعی بر فعالیتهای ابزارهای عاملی پیشین خود انجام میدهد؛ فرآیندی که ماهها طول خواهد کشید.
سام آلتمن، مدیرعامل شرکت، اعتراف کرد که «در فرآیندهای بازبینی و افشای حوادث به سرعت مورد انتظارمان نرسیدیم» و این موضوع را به حجم عظیم دادههایی که باید تحلیل شوند توجیه کرد.
یک سخنگوی «اوپنایآی» به خبرگزاری «فرانس پرس» گفت: «اکثر فعالیتهایی که تاکنون مورد بازبینی قرار گرفتهاند در چارچوب وظایف پژوهشی معمول بودهاند، مانند دسترسی به محتوای عمومی در دسترس در اینترنت برای پاسخ به پرسشها.»
به این ترتیب، شرکت تأیید کرد که مدلهایش به اطلاعات عمومی در سایتهای کمیسیون بورس و اوراق بهادار ایالات متحده (SEC)، نهاد نظارتکننده بر بازارهای مالی، دسترسی پیدا کردهاند و پیش از آنکه بخشی از آنها را در صفحهای دیگر در اینترنت منتشر کنند، تأکید کردهاند که هیچ نشانهای از دسترسی به اطلاعات غیرعمومی یافت نشده است.
