گوگل پس از چند ساعت از راهاندازی، یک ویژگی خطرناک را حذف کرد
گوگل ویژگی جدیدی را که کمتر از ۲۴ ساعت پس از عرضه منتشر شده بود، از برنامه «گوگل ارث» حذف کرد، زیرا این قابلیت قادر به تولید تصاویری با ظاهر واقعی است که سیاستهای استفاده اختصاصی برنامه را نقض میکند، به گزارش آژانس بلومبرگ آمریکا. بحران این ابزار جدید پس از آن آغاز شد که هینک فان آیس، روزنامهنگار تحقیقی هلندی متخصص در حوزه اطلاعات منبعباز، سوءاستفاده از این ابزار را کشف کرد؛ او با آزمایش ابزار توانست چندین تصویر را جعل کند و به آنها ظاهری واقعی ببخشد و خبرگزاریهای دیگر در سراسر جهان نیز این موضوع را تأیید کردند. فان آیس از خطر فزاینده فناوریهای هوش مصنوعی مولد و توانایی آنها در تولید صحنههای طبیعی که کار روزنامهنگاران و راستیآزمایان اطلاعاتی را پیچیده میکند، هشدار داد و همچنین بر تأثیر آن بر پژوهشگران و تلاشهای آنها تأکید کرد. از سوی دیگر، گوگل از طریق پستی در پلتفرم «اکس» اعلام کرد که این ویژگی را حذف کرده است، اما تأیید کرد که در آینده با اعمال کنترلهای قویتر برای تنظیم استفاده از آن، دوباره فعال خواهد شد. این شرکت افزود که این ویژگی جدید توسط متخصصان حوزه جغرافیایی برای اهداف مفید و علمی متعددی مورد استفاده قرار گرفته است و اشاره کرد که تصاویر تولیدشده توسط هوش مصنوعی در صفحه اصلی برنامه نمایش داده نمیشوند و همچنین دارای یک واترمارک پنهان هستند که نشان میدهد این تصاویر توسط هوش مصنوعی تولید شدهاند. این ویژگی جدید مجموعهای بزرگ از خطرات را به همراه دارد که مهمترین آن امکان جعل صحنههای طبیعی تصاویر گرفتهشده از فضا است؛ کاربران میتوانند تصاویری با ظاهری بسیار واقعی تولید کنند که گویی از ماهوارههای واقعی گرفته شدهاند. این ویژگی جدید با پشتیبانی از مدل «نانو بانانا ۲» گوگل برای تولید تصاویر هوش مصنوعی، به کاربران امکان میدهد با وارد کردن دستور متنی برای هر مکانی در سراسر جهان، تصاویری فوقالعاده واقعی بر اساس تصاویر ماهوارهای «گوگل ارث» تولید کنند، به گزارش خبرگزاری رویترز. بر اساس گزارش الجزیره، به دلیل توانایی مدل در تولید این تصاویر، تشخیص تفاوت بین تصاویر واقعی و جعلی برای کاربران و متخصصان غیرمتخصص دشوار است.
