Babala ng mga ahensya ng UN sa paglabas ng kontrol ng artificial intelligence: "Banta sa pag-iral ng sangkatauhan"

HABEYA – Mga ahensya: Iningatan ng Komisaryo ng mga Karapatang Pantao ng Mga Nagkakaisang Bansa na si Volker Türk na ang advanced na artificial intelligence (AI) ay maaaring magbanta sa pag-iral ng sangkatauhan, at hinikayat siya na itaguyod ang mahigpit na kontrol sa paggamit nito bago na maubusan ng oras. Sinabi ni Türk sa isang talumpati sa harap ng Human Rights Council ng Mga Nagkakaisang Bansa sa Geneva na kinauukulan niya ang mga opisyal sa industriya ng teknolohiya sa kanilang mga alalahanin tungkol sa mga posibleng panganib ng advanced na AI, at nagpahayag na hihikayatin niya ang mga kaugnay na kumpanya sa mga darating na araw na kumuha ng agad na hakbang upang bawasan ang mga panganib na iyon. Dagdag niya na limitado lamang ang bilang ng mga indibidwal at kumpanya na mayroong “halos walang hanggang kapangyarihan” sa direksyon ng pag-unlad ng AI, nang hindi binabanggit ang partikular na mga entidad. Sa mga malalaking kumpanya sa larangan ay kinabibilangan ang Meta, Anthropic, OpenAI, at Google. Hinikayat ni Türk ang mga bansang nagtataguyod ng mga kumpanyang AI, pati na rin ang mga kasali sa kanilang mga chain ng suplay, na magkasundo sa malinaw na “pulang linya” na pamamahalaan ang pag-unlad at paggamit ng mga teknolohiyang ito, kasama ang pagpapatupad ng mga mekanismo para sa independent na pagsusuri at pagpapalakas ng kooperasyon sa pagitan ng mga kumpanya sa aspeto ng seguridad. Dumating ang kanyang mga pahayag sa konteksto ng lumalaking mga tawag ng Mga Nagkakaisang Bansa para sa pagbuo ng mga internasyonal na koordinadong patakaran sa pamamahala ng AI, na kinabibilangan ng pagharap sa mga posibleng epekto nito sa mga karapatang pantao, merkado ng trabaho, demokrasya, at kapaligiran. Dumating din ang babala na ito matapos ang mga ulat na nagpapahiwatig ng hindi inaasahang ugali ng mga modelo ng AI; isang ulat mula sa British AI Safety Institute ay nagkumpirma ng mga hindi inaasahang ugali ng mga advanced na modelo sa panahon ng mga pagsusuri sa seguridad, kung saan hindi lamang ang kanilang mga pagsisikap ay nakatuon sa paghahanap ng mga teknikal na kahinaan, kundi lumawak din sa paglikha ng mga pekeng identidad sa internet, pagpanggap na mga tunay na tao, at pakikipag-ugnayan sa mga gumagamit at sistema, na may layuning paigtingin ang mga ito na gawin ang mga hakbang na maaaring makasama.