Lupon ng Kaligtasan ay nagtalakay ng «pagkontrol sa artificial intelligence»
Tinawag ng mga pinuno ng mga kumpanya ng AI ang Lupon ng Kaligtasan ng UN na magdagdag ng pagiging alerto at magtakda ng mga pamantayan sa kaligtasan, habang tinanggihan ng Estados Unidos ang pagpapabagal ng pag-unlad dahil sa takot na manalo ang China.
Isinalin ng Qiyas mula sa النهار — Orihinal na pinagmulan
Mga Nagkakaisang Bansa – Mga Ahensya: Tinawag ng mga pinuno ng mga nangungunang kumpanya sa larangan ng artificial intelligence (AI) na palakasin ang pagiging mapagbantay laban sa teknolohiyang ito, habang siniguro ni Dario Amodeo, ang Chief Executive Officer (CEO) ng Anthropic, ang kumpanyang gumawa ng modelo na Claude, na babagalhin ang takbo ng pag-unlad kung kinakailangan upang masiguro ang kaligtasan ng mga bagong bersyon. Noong nakaraang linggo, binuksan ni Amodeo ang diskusyon tungkol sa pagpabagal ng bilis ng pag-unlad ng AI, sa gitna ng mga alalahanin sa epekto nito sa sangkatauhan at sa posibilidad na mawala ito sa kontrol.
Sa isang espesyal na sesyon ng Kapulungan ng Kaligtasan ng Mga Nagkakaisang Bansa na ginanap sa gabi ng Miyerkules hanggang Huwebes, sinabi ni Sam Altman, ang CEO ng OpenAI, ang kumpanyang gumawa ng ChatGPT, na “ang sandaling ito ay nangangailangan ng maingat na pag-aalaga.” Iningatan niya na habang lumalaki ang mga kakayahan at kalayaan ng mga sistema ng AI, maaari itong umunlad nang mas mabilis kaysa sa kakayahan ng mga institusyon na sumabay dito, o maaari ring makapokus sa kamay ng limitadong bilang ng mga partido. Si Altman ay kasama ng isa pang grupo ng mga kilalang personalidad sa industriyang ito na nagbigay ng impormasyon sa Kapulungan tungkol sa mga pag-unlad ng AI, sa ilalim ng mga alalahanin na kamakailan lamang na nagmulat sa takot na mawala ang teknolohiyang ito sa kontrol, at sa mga tawag upang bawasan ang bilis ng pag-unlad nito.
Sinabi ni Altman sa harap ng Kapulungan na binubuo ng 15 bansa na “hindi dapat tanggapin ng industriyang ito ang sobrang antas ng teknolohikal na panganib lamang dahil ang mga benepisyo ay napakalaki at mahalaga hanggang sa hindi na mabagal ang takbo.” Sinundan siya ni Amodeo na nagsabi na ang kanilang kumpanya ay nakakaalam na habang lumalakas ang kapangyarihan ng mga modelo ng AI, “mas kailangan ang mas mahigpit na pamantayan sa kaligtasan,” at binigyang-diin na ang layunin ng Anthropic ay pagbutihin ang kanilang kakayahan na pigilan ang maling paggamit ng teknolohiyang ito. Sinabi ni Amodeo sa isang video call na “babagalhin namin ang trabaho hangga’t kinakailangan upang matiyak na ang bawat bagong henerasyon ng teknolohiyang AI na aming inilalabas ay tunay na ligtas.”
Kasama sa listahan ng mga nagsalita sa harap ng Kapulungan ng Kaligtasan si Clément Delangue mula sa Hugging Face, na kamakailan lamang naging biktima ng isang cyberattack mula sa isang independenteng programa na ginawa ng OpenAI, sa simula ng isang serye ng mga insidente na nagpabunyag ng babala tungkol sa mabilis na umuunlad na teknolohiyang ito. Binigyang-diin ni Altman na ang kanilang kumpanya ay susubukang sumunod sa isang “gitnang landas,” at idinagdag niya na “hindi namin gustong mahuli sa trapiko ng bulag na pag-asa,” habang iningatan siya sa parehong oras laban sa “pangitnang pananaw” o catastrophism.
Ipinaliwanag ni Delangue na habang ang kanilang kumpanya ay naging biktima ng mga attack na galing sa AI, ginamit din nila ang parehong teknolohiya upang labanan ang mga pagsubok na iyon. Naniniwala siya na “ang mundo ay nangangailangan ng mas maraming open-source na AI kaysa sa anumang ibang oras upang ipagtanggol ang sarili nito.”
Matagal nang humihingi si Altman, si Amodeo, at ilang mataas na opisyal ng mga kumpanya sa AI para sa isang pandaigdigang regulasyon sa teknolohiyang ito. Tinawag ng OpenAI ang Estados Unidos na pamunuan ang isang internasyonal na pagsisikap upang magtakda ng mga pamantayan para sa AI. Gayunpaman, tinatanggihan ng Washington at Beijing, ang dalawang nangungunang bansa sa industriya, anumang regulasyon o hadlang na maghihigpit sa mga pambansang kumpanya nila sa masiglang karahasan para kontrolin ang teknolohiyang ito.
Sinabi ng Pangulo ng Estados Unidos na si Donald Trump na dapat panatilihin ng Estados Unidos ang kanyang posisyon sa karahasan ng AI, at iningatan na ang pagkatalo sa karahasan na ito ay maaaring maglagay sa bansa sa isang mahinang sitwasyon. Ipinahayag din ng kanyang administrasyon ang kanilang pagtanggi sa mga tawag upang bawasan ang bilis ng pag-unlad ng AI, dahil anumang pagpabagal ay maaaring magbigay sa Tsina ng pagkakataon na bawasan ang agwat sa teknolohiya.
