Sinusubukan ng TikTok ang bagong kasangkapan para sa pagsubaybay ng nilalaman ng "deepfake" at proteksyon sa mga gumagawa ng nilalaman

Nagsimula ang TikTok na kumita ng bagong tool na pinapagana ng teknolohiyang artificial intelligence (AI), na layuning tulungan ang mga gumagawa ng nilalaman na matukoy ang mga maling video at larawan na gumagamit ng kanilang mga mukha o katangian nang walang pahintulot, sa loob ng kanilang mga pagsisikap upang bawasan ang pagkalat ng nilalaman na deepfake. Ayon sa TechCrunch, nagsimula ang TikTok na subukan ang tool na ito sa isang limitadong bilang ng mga gumagawa ng nilalaman sa Estados Unidos, kung saan binibigyan ng mga gumagamit na nakumpleto ang proseso ng pagpapatunay ng identidad ang kakayahang mag-ulat sa nilalaman na inilalarawan na maaaring gawa ng AI at nagpapakita ng kanilang mga larawan o katangian. Inilarawan ng site na ang proseso ng pagpapatunay ay nakabase sa platform ng Jumio sa pamamagitan ng pagkuha ng live na selfie at pagsusuri ng dokumento ng identidad, habang pinatutunayan ng TikTok na hindi nila inilalagay ang mga kopya ng mga dokumento ng mga gumagamit. Pagkatapos ng pagkumpleto ng pagpapatunay, nagsisimula ang platform na maghanap ng nilalaman na maaaring maglaman ng mga larawan o katangian ng may-akount, at kapag natagpuan ang mga posibleng tugma, maaaring suriin ng gumagamit ang mga video o larawan at mag-ulat sa mga post o mga account na akala nila ay nagpapanggap ng kanilang identidad. Pinatutunayan ng TikTok na ang feature na ito ay optional, at patuloy pa rin itong nasa yugto ng pagsubok, na nagpapahiwatig na ang mga resulta ng yugtong ito ang magtatakda kung ito ay magiging available sa mas malawak na bilang ng mga gumagawa ng nilalaman sa hinaharap. Ang hakbang na ito ay nagaganap sa gitna ng lumalaking paggamit ng teknolohiyang AI sa paggawa ng maling nilalaman na nagmumukhang mga tunay na tao, kasama ang mga pagsisikap ng mga social media platform upang palakasin ang proteksyon sa digital na identidad at bawasan ang maling paggamit ng mga personal na larawan at video.