Ang estado ng New York ay nagpasa ng batas na nagbabawal sa paggamit ng mga bata sa mga chatbot na may AI

Naglagda ang gubernadora ng estado ng New York noong Miyerkules ng isang bagong batas na nagbabawal sa mga minorya na gumamit ng mga chatbot na pinapatakbo ng artificial intelligence (AI) na nagpapakita ng sarili bilang kaibigan nila, isang hakbang na itinuturing na pinakamahalaga hanggang ngayon upang limitahan ang ganitong uri ng mga modelo na nakatuon sa mga mamimili.

Ang batas ay nag-uutos sa mga operator ng mga programang tulad ng ChatGPT na kumpirmahin ang edad ng mga gumagamit at limitahan ang paggamit ng ilang tampok kung ang gumagamit ay wala pang 18 taong gulang.

Ayon din sa batas, kung gagamitin ng isang minorya ang mga programang ito, hindi siya pinapayagang lumikha ng anumang nilalaman na nagpapahiwatig na ang programang iyon ay isang “tao, nilalang, o may mga damdaming pantao.”

Bawal din ng batas na lumikha ng mga programang ito ng nilalaman na nagpapahiwatig sa gumagamit na mayroon silang “personal o propesyonal na ugnayan” o kumakatawan sa isang “personalidad na may awtoridad.”

Sinabi ni Gubernadora Kathy Hochul ng New York sa seremonya ng paglagda ng batas noong Miyerkules, “Hindi na makakakuha ng access ang mga minorya sa mga programang nagpapanggap na kaibigan o romantic partner nila.”

Dagdag niya, “Hindi rin makapag-iimbak ng mga sensitibong impormasyon tungkol sa kalusugang emosyonal o pisikal ng mga minorya ang mga programang ito.”

Ilang ibang estado sa Estados Unidos, tulad ng California, ay nagpasa rin ng mga batas na naghihigpit sa mga chatbot, ngunit ang batas na lagdaan ni Hochul ay may mga salitang itinuturing na isa sa pinakakumpletong regulasyon sa teknolohiyang ito, na nagdulot ng mga kritika mula sa mga kumpanya ng AI.

Ayon sa organisasyong “TechNYC,” na nagtataguyod ng interes ng industriya ng teknolohiya sa New York, ang pagbuo ng batas ay “malabo.”

Dagdag ng organisasyon sa isang pahayag, “Ang pagpapanatili ng kaligtasan ng mga bata sa online ay hindi dapat nangangahulugan ng pagkakait sa kanila ng mga kasangkapan na tumutulong sa kanilang pag-aaral at paghahanda para sa kanilang mga kinabukasang propesyonal.”

Hindi sumagot ang dalawang kumpanya, OpenAI at Anthropic, sa hiling ng Agensya Fransesa ng Balita (AFP) upang magbigay ng komento tungkol sa batas na ito.

Sa kabilang banda, binati ng organisasyong “Common Sense Media,” na nagbibigay ng gabay sa mga magulang tungkol sa angkop ng nilalaman ng media para sa mga bata, ang pagpasa ng batas, at inilarawan ito bilang “pinakamalakas na batas sa bansa na tumutukoy sa kaligtasan ng mga bata sa larangan ng AI.”

Sinabi ni Jim Steyer, ang CEO ng organisasyon, sa isang pahayag, “Nag-aalok ang mga kumpanya ng AI ng mga chatbot na may mga mapanganib, minsan ay nakamamatay, na mga tampok para sa mga bata at kabataan. Ngayon, babawal ng batas ang mga mapanganib na tampok na ito sa estado ng New York.”