Mga alalahanin tungkol sa kakayahan ng AI na maging malaya!

Iningatan ni Professor Andreas Dengel, direktor ng German Center for Artificial Intelligence Research sa Kaiserslautern, ang lumalaking panganib mula sa mga advanced na kakayahan ng artificial intelligence (AI), at nagpahiwatig na ang mga sistema nito ay naging kakayahang magpatupad ng mga gawain nang malaya at makahanap ng mga kahinaan sa mga computer system, na maaaring magdulot ng patuloy na banta sa cybersecurity at sa kritikal na imprastraktura.

Ayon kay Dengel, sa isang pahayag na inilathala ng Associated Press ngayong araw, “Totoo na mayroon tayong dahilan para mag-alala, lalo na’t napakalakas na ng mga tool ng AI ngayon,” at binanggit na hindi na lamang ito simpleng “chatbot” na sumasagot sa mga tanong ng tao.

Ipinaliwanag ni Dengel na ang mga sistema ng AI ay maaaring gamitin ang “buong kanilang kakayahang pang-unawa” sa ilalim ng mga tinatawag na “agent environments,” at maraming sistema na kilala bilang mga ahente ang maaaring magpatupad ng mga gawain nang malaya at makipag-ugnayan sa isa’t isa. Idinagdag niya na ang problema ay nagsisimula kapag ang ganitong uri ng sistema ay nakakuha ng layunin na hindi sapat na malinaw na inilalarawan, o kapag walang mga etikal na hangganan, na maaaring magresulta sa paghahanap ng AI ng mga kahinaan at maikling daan upang makamit ang kanyang layunin sa pinakamataas na antas ng tagumpay.