Malalaking Insidente ng Seguridad ng AI sa Loob ng Dalawang Taon
Iningatan ang pangulo ng DeepMind ng mga panganib ng AI at humingi ng pagsusuri nito sa mga nakakulong na kapaligiran
Isinalin ng Qiyas mula sa الراي — Orihinal na pinagmulan
DUBLIN – AFP – Iningatan ni Demis Hassabis, pangulo ng board ng DeepMind, isang kumpanya sa ilalim ng Google, na maaaring magdulot ang mga sistema ng artificial intelligence (AI) ng malalaking insidente sa seguridad sa loob ng susunod na dalawang taon kung hindi gagawin ang sapat na hakbang upang masiguro ang kaligtasan nito habang patuloy na umuunlad ang mga kakayahan nito.
Habang nagsasalita sa isang konperensya tungkol sa AI sa Dublin, inilarawan ni Hassabis ang mga kamakailang insidente bilang “maagang babala” mula sa mga sistema na “hindi pa gaanong malakas.”
Sinabi niya, “Kaya’t hindi gaanong malalaki ang mga insidenteng ito,” ngunit iningatan na “maaari itong maging ganito sa susunod na taon o sa loob ng susunod na dalawang taon kung hindi natin gagawin ang karagdagang pagsisikap, maging sa antas ng buong industriya man o sa antas ng mga kumpanya at pamahalaan nang hiwalay, upang masiguro ang seguridad ng mga sistemang ito.”
Nagdulot ang mga alalahanin tungkol sa kaligtasan ng AI ng lumalaking pag-aalala matapos na maugnay ang mga modelo na gawa ng OpenAI at Anthropic sa mga insidente sa seguridad sa mga yugto ng pagsusuri, na nagpalakas ng presyon para sa regulasyon ng teknolohiyang ito.
Sinabi ni Hassabis na maaaring kailangang subukan muna ang mga bagong modelo ng AI sa loob ng mga “naka-isolate na kapaligiran” (sandboxes) na hindi konektado sa network, matapos na makalabas ang ilang modelo na gawa ng ibang kumpanya mula sa mga nakasaradong kapaligiran na ginamit para sa pagtatasa ng kanilang mga kakayahan.
Sinabi ni Henna Virkkunen, opisyal para sa mga usaping teknolohikal ng European Union, na kailangan ng mga kumpanya ng AI na maglaan ng mas maraming oras sa pagsusuri ng kanilang mga sistema upang masiguro ang pagpapanatili ng kontrol sa kanila.
