Ang puno ng "DeepMind" ay nagbabala: Maaaring mangyari ang malalaking insidente sa seguridad dahil sa AI sa loob ng dalawang taon
Ang puno ng DeepMind ay nagbabala sa mga panganib ng AI habang sinusuportahan ng Europa ang mahigpit na regulasyon
Isinalin ng Qiyas mula sa الجريدة — Orihinal na pinagmulan
Bumabala ang pangulo ng board ng pamamahala ng DeepMind, ang kumpanya ng Google, na si Demis Hassabis, noong Miyerkules, na ang mga sistema ng artipisyal na intelihensya (AI) ay maaaring magdulot ng mga “malalaking” insidente sa seguridad sa loob ng susunod na dalawang taon maliban na lamang kung gagawin ang sapat na hakbang upang masiguro ang kanilang kaligtasan habang patuloy na umuunlad ang kanilang mga kakayahan.
Habang nagsasalita sa isang konperensya tungkol sa AI sa Dublin, inilarawan ni Hassabis ang mga kamakailang insidente bilang mga “maagang babala” mula sa mga sistemang “hindi pa ganun kakaang-ang” o hindi pa ganun kumakapang.
Nagsabi siya, “Kaya’t hindi ganun kaganda ang mga insidenteng ito,” ngunit binabalaan siya na “maaari itong maging ganito sa susunod na taon o sa loob ng susunod na dalawang taon kung hindi natin gagawin ang karagdagang pagsisikap, maging sa antas ng buong industriya man o sa antas ng mga kumpanya at pamahalaan, bawat isa ay magkahiwalay, upang masiguro ang seguridad ng mga sistemang ito.”
Nakapagdulot ang mga alalahanin tungkol sa kaligtasan ng AI sa lumalaking pag-aalala matapos na maugnay ang mga modelo na binuo ng OpenAI at Anthropic sa mga insidente sa seguridad sa mga yugto ng pagsusuri, na nagpalakas ng presyon para sa regulasyon ng teknolohiyang ito.
Sinabi ni Hassabis na maaaring kailanganin ang pagsusuri sa mga bagong modelo ng AI sa loob ng mga “isoladong kapaligiran” (sandboxes) na hindi konektado sa internet, matapos na makalabas ang mga modelo na binuo ng ibang kumpanya mula sa mga nakasarang kapaligiran na ginamit para sa pagtatasa ng kanilang mga kakayahan.
Sinabi ni Henna Virkkunen, ang opisyal para sa mga usaping teknolohikal ng Unyong Europeo, na kailangan ng mga kumpanya ng AI na maglaan ng mas maraming oras sa pagsusuri ng kanilang mga sistema upang masiguro ang pagpapanatili ng kontrol sa kanila.
Sinabi ni Virkkunen sa mga mamamahayag sa pagdating niya sa kumpiyansa sa Dublin, “Napaka-intensibo ng kompetisyon sa pandaigdigang antas, at tila hindi lahat ng kumpanya ang naglaan ng sapat na oras at mapagkukunan upang aktwal na suriin ang kanilang mga modelo.”
Idinagdag niya, “Dapat kayang kontrolin ng mga kumpanya ang mga sistemang ito,” habang binabanggit na ang Unyong Europeo ay nagpadala ng mga kahilingan para sa impormasyon sa lahat ng malalaking kumpanya na gumagana sa larangan ng AI, upang malaman ang mga hakbang sa kaligtasan at seguridad na kanilang ipinapatupad.
Nakuha ng Komisyon ng Unyong Europeo noong Agosto ang mga bagong kapangyarihang regulatibo sa ilalim ng Batas sa AI, na itinuturing na pinakakumpletong balangkas ng regulasyon sa buong mundo upang limitahan ang mga paggamit ng teknolohiyang ito na maaaring magdala ng panganib.
