Inalis ng Google ang mapanganib na feature pagkatapos lamang ng ilang oras ng pagpapatakbo nito

Inalis ng Google ang isang bagong feature na inilunsad sa aplikasyong Google Earth, ngunit inalis ito sa loob ng mas mababa sa 24 oras pagkatapos itong ilabas, dahil sa kakayahang makagawa ng mga larawan na tila totoho at labag sa patakaran sa paggamit ng aplikasyon, ayon sa ulat ng American news agency na Bloomberg. Nagsimula ang krisis sa bagong tool matapos na matuklasan ni Henk van Es, isang Dutch investigative journalist na espesyalista sa open-source intelligence, ang maling paggamit nito. Sinubukan niya ang tool at nakapagpalit-palit ng ilang mga larawan, ginawa nitong tila totoho, at kinumpirma ng iba pang mga newsroom sa buong mundo ang usaping ito. Binalaan ni van Es ang lumalaking panganib ng mga teknolohiyang generative AI at ng kanilang kakayahang makagawa ng mga natural na eksena na nagpapahirap sa trabaho ng mga mamamahayag at fact-checkers, pati na rin sa mga mananaliksik at kanilang mga pagsisikap. Sa kabilang banda, ipinahayag ng Google ang pag-alis ng feature sa pamamagitan ng isang post sa platform na X, na nagpapatunay na ito ay babalik sa hinaharap, ngunit pagkatapos ng pagpapatibay ng mas mahigpit na mga kontrol para sa pag-regulate ng paggamit nito. Idinagdag ng kumpanya na ang bagong feature ay ginamit ng mga eksperto sa larangan ng heograpiya sa iba’t ibang kapaki-pakinabang at siyentipikong layunin, at binanggit na ang mga larawang ginawa ng AI ay hindi lumabas sa pangunahing interface ng aplikasyon, pati na rin ang pagkakaroon nito ng nakatagong watermark na nagpapakita na ito ay ginawa ng AI. Ang bagong feature ay may malaking hanay ng mga panganib, kabilang ang kakayahang palakalin ang mga natural na eksena ng mga larawang kinuha mula sa kalawakan, dahil maaaring makagawa ang mga gumagamit ng mga larawan na tila sobrang katotohanan at parang kinuha mula sa mga tunay na satellite. Ang bagong feature ay sinusuportahan ng modelo ng generative AI na "Nano Banana 2" ng Google, na nagbibigay-daan sa mga gumagamit na makagawa ng mga sobrang katotohanang larawan batay sa mga satellite na larawan ng Google Earth, sa pamamagitan ng pagsusulat ng text prompt para sa anumang lokasyon sa buong mundo, ayon sa ulat ng Reuters news agency. Ayon sa Al Jazeera, dahil sa kakayahang makagawa ng mga ganitong larawan, mahirap para sa mga hindi espesyalista na gumagamit at mga eksperto na tukuyin ang mga materyales ng AI at kilalanin ang pagkakaiba ng mga tunay at pekeng larawan.