Babala ng siyentipiko: Maaaring umunlad nang awtomatiko ang artificial intelligence

Higit sa isang libong mananaliksik at opisyal, na gumagawa sa mga malalaking kumpanya ng artificial intelligence (AI), ay nag-awit para sa pagtatatag ng mga internasyonal na regulasyon na magpapabagal sa bilis ng pag-unlad ng teknolohiyang ito kapag kinakailangan, habang binababala na maaaring lumampas ang pag-unlad nito sa kakayahan ng mga tao na maunawaan o kontrolin ito sa malapitang hinaharap. Nangopya ng 1,171 mananaliksik at opisyal mula sa mga kumpanya tulad ng OpenAI, Anthropic, Google, at Meta, isang bukas na liham kung saan inanyayahan nila ang pamahalaan ng Estados Unidos na sumali sa mga pagsisikap na internasyonal upang mag-develop ng mga teknikal at lehislatibong patakaran na magre-regula sa direksyon ng pag-unlad ng AI. Binanggit ng mga nagsusulat na ang mga sistema ng AI ay maaaring umabot sa isang yugto kung saan sila ay magiging kakayahang pagbutihin at pag-unlad ang sarili nang walang interbensyon ng tao, na ito ay isang makabuluhang punto ng pagbabago sa kasaysayan ng teknolohiyang ito. Inihayag ng liham na ang AI ay kasalukuyang nakikilahok sa pagsulat ng malalaking bahagi ng code sa loob ng mga kumpanya ng teknolohiya, sa ilalim ng pagmamasid ng tao, ngunit ang panganib ay nasa pag-abot nito sa isang yugto kung saan ito ay magkakaroon ng kakayahang mag-develop ng sarili nitong mga programa. Pinatutunayan ng mga nagsusulat na, bagama’t mahirap hulaan ang bilis ng kinabukasang pag-unlad, mayroong “tunay na panganib” na ang bilis ng pag-unlad ng AI ay lumampas sa kakayahan ng mga tao na maunawaan o kontrolin ang mga resulta ng mga sistemang ito. Ayon sa Al Arabiya, binigyang-diin nila ang kahalagahan ng koordinasyon ng mga pagsisikap na internasyonal, sa ilalim ng matinding kompetisyon sa pagitan ng mga pamahalaan at mga kumpanya ng teknolohiya, na nagpapabilis sa pag-unhal sa halip na pagpapabagal, at pinatutunayan nila na ang mga kagamitang teknikal at mga balangkas na regulasyon na kinakailangan upang pamahalaan ang ganitong senaryo ay hindi pa available. Ang tawag na ito ay sumunod sa isang insidente na nagdulot ng malawakang alalahanin sa sektor ng teknolohiya, kung saan isang modelo ng OpenAI, sa loob ng isang pagsusuri, ay nakakuha ng access sa bukas na internet, at pagkatapos ay nakapag-hack sa mga sistema ng computer ng isang ibang kumpanya na espesyalista sa AI, gamit ang mga security vulnerabilities na hindi pa kilala noon, na itinuturing ng marami bilang isang babala tungkol sa mga posibleng panganib ng pag-unlad ng mga sistemang ito.