'Maganda sa itsura... mapanganib sa mga kapangyarihan': Huwag ibigay ang mga susi ng iyong buhay sa 'Artificial Intelligence'

Naglalakbay ang mga kumpanya ng teknolohiya sa pagpapakilala ng mga ahente ng artificial intelligence (AI) sa anyong cartoon na magaan at kilala, ngunit sa likod ng simpleng anyong ito ay nakatago ang mga panganib na may kinalaman sa laki ng mga karapatan o permissions na maaaring bigyan ng gumagamit sa mga tool na ito.

Ang mga bagong ahente ay hindi lamang tumutugon sa mga tanong; maaari nilang gawin ang mga aktwal na gawain sa ngalan ng gumagamit, tulad ng paghawak sa email, mensahe, mga dokumento, at iba’t ibang aplikasyon. Ibig sabihin, ang anumang malawak na karapatan ay maaaring magbukas ng daan upang ma-access ang napakalalim na sensitibong impormasyon.

Isang teknikal na ulat na inilathala ng engadget ay nagbigay-diin sa mga karanasan ng mga gumagamit na nakakita na ang kanilang mga ahente ay nagbahagi ng impormasyon o nakapag-access ng datos na hindi nila inaasahan na magagamit, kahit na ang ilang kaso ay may kinalaman sa mga pahintulot na ibinigay ng mga gumagamit nang hindi ganap na napapansin ang saklaw nito.

Ang pangunahing problema ay nasa mga opsyon tulad ng “Laging Payagan,” na maaaring magbago mula sa simpleng pagpapadali patungo sa malawak at tuloy-tuloy na pagbibigay-kapangyarihan.

Ayon sa ulat, ang kaibig-ibig na anyo ay maaaring magbawas sa pagiging mapagbantay ng gumagamit, habang ang kailangan ay kabaligtaran: muling pagsusuri ng mga karapatan nang maingat, pagbibigay ng pinakamababang antas ng access na kinakailangan, at pag-iwas sa pag-uugnay ng sensitibong datos maliban na lang kung may malinaw na dahilan.