Ang Pangulo ng 'Google DeepMind' ay nagbabala tungkol sa malalaking 'security incidents' sa Artificial Intelligence

Bumabala ang pangulo ng board ng pamamahala ng DeepMind, ang kumpanya ng Google, na si Demis Hassabis, na maaaring magdulot ang mga sistema ng artificial intelligence (AI) ng mga “malalaking” insidente sa seguridad sa loob ng susunod na dalawang taon maliban na lamang kung gagawin ang sapat na hakbang upang masiguro ang kaligtasan nito habang patuloy na umuunlad ang mga kakayahan nito. Habang nagsasalita sa isang konperensya tungkol sa AI sa Dublin, inilarawan ni Hassabis ang mga kamakailang insidente bilang “maagang babala” mula sa mga sistemang “hindi pa ganun kakaang” at sinabi, “Kaya’t hindi ganun kadalas o malaki ang mga insidenteng ito,” ngunit binabalaan siya na “maaari itong maging ganito sa loob ng susunod na taon o sa loob ng susunod na dalawang taon kung hindi natin gagawin ang karagdagang pagsisikap, maging sa antas ng buong industriya man o sa antas ng mga kumpanya at pamahalaan, bawat isa nang hiwalay, upang masiguro ang seguridad ng mga sistemang ito.”

Nakapagdulot ang mga alalahanin tungkol sa kaligtasan ng AI sa lumalaking pag-aalala matapos na maugnay ang mga modelo na gawa ng OpenAI at Anthropic sa mga insidente sa seguridad sa mga yugto ng pagsusuri, na nagpalakas pa sa mga hinihinging regulasyon sa teknolohiyang ito. Sinabi ni Hassabis na maaaring kailangang subukan muna ang mga bagong modelo ng AI sa loob ng mga “naka-isolate na kapaligiran” (sandboxes) na hindi konektado sa mga network, matapos na makalabas ang ilang modelo na gawa ng ibang kumpanya mula sa mga nakasara o naka-isolate na kapaligiran na ginamit para sa pagtatasa ng kanilang mga kakayahan.

Sinabi ni Henna Virkkunen, ang opisyal para sa mga isyu ng teknolohiya sa European Union, na kailangan ng mga kumpanya ng AI na maglaan ng mas maraming oras sa pagsusuri ng kanilang mga sistema upang masiguro ang pagpapanatili ng kontrol sa mga ito. Sinabi ni Virkkunen, “Kailangang makapagkaroon ng kontrol ang mga kumpanya sa mga sistemang ito,” at binanggit na ang European Union ay nagpadala ng mga kahilingan para sa impormasyon sa lahat ng malalaking kumpanya na gumagana sa larangan ng AI, upang malaman ang mga hakbang sa kaligtasan at seguridad na kanilang inilalapat.