Mga Developer ng AI: Maaari Nating Patayin Lahat sa Loob ng 5 Taon!

Hinihikayat ng Chief Executive Officer ng Anthropic, si Dario Amodei, ang mga kumpanya ng artificial intelligence (AI) na bawasan ang bilis ng pag-unlad ng mga kakayahan ng mga modelo, sa gitna ng lumalaking alalahanin tungkol sa maling paggamit ng AI. Inihain niya ang isang tatlong-yugto na balangkas upang ayusin ang bilis ng pag-unlad at bigyan ng mas maraming oras ang pagharap sa mga panganib na dala ng mga teknolohiyang ito.

Nagsulat si Amodei sa isang mahabang artikulo na inilathala sa platform na “X” noong Sabado: “Dapat nating bawasan ang bilis ng pagpapabuti ng mga kakayahan ng mga modelo ng AI. Mananatiling mabilis ang pakikita ng progreso, at kailangan nating matalinong gamitin ang oras na nakukuha natin.”

Ayon sa Reuters, parehong si Elon Musk, na nagmamay-ari ng X.AI, at si Sam Altman, Chief Executive Officer ng OpenAI, ay nagpahayag sa kanilang mga post sa “X” na sumasang-ayon sila kay Amodei.

Ang plano ni Amodei na may tatlong yugto ay kinabibilangan ng pagtalaga ng mga malayang reviewer sa loob ng mga nangungunang kumpanya ng AI; koordinasyon sa pagitan ng mga kumpanyang nagpapatalas ng mga advanced na modelo ng AI upang itakda ang mga pamantayan sa kaligtasan at limitahan ang pag-unlad ng AI na walang kontrol; at internasyonal na pakikipagtulungan upang pamahalaan ang mga panganib nito.

Inilathala ni Amodei ang kanyang artikulo matapos na ilathala ng Anthropic, na may headquarters sa San Francisco, noong Huwebes ang isang ulat tungkol sa mga impormasyon ng banta, na nagdetalye kung paano ginamit ng ilang mga entidad ang mga modelo ng AI na Claude ng kumpanya sa mga gawain na kabilang ang pagbuo ng mga sandata, pagpapatupad ng cyberattacks, hanggang sa surveillance at panloloko.

Binanggit ni Amodei ang lumalaking kakayahan ng AI na i-optimize ang sarili nito, na nagbigay-diin sa matagal nang umiiral na alalahanin na maaaring lampasan ng kakayahang ito ang kakayahan ng tao na kontrolin ang pagkilos nito, pati na rin ang kamakailang insidente na kinalaman ng OpenAI at Hugging Face, bilang pangunahing dahilan ng pagtawag upang pigilan ang progreso ng mga kakayahan ng modelo.

Nagpalala ang alalahanin tungkol sa posibleng pinsala ng AI noong nakaraang linggo nang mag-resign si Jacob Cookson, isang researcher sa Anthropic, na nagsabi na “ang mga taong gumagawa ng pag-unlad ng AI ay may matibay na paniniwala na maaari silang patayin ang lahat natin sa dulo ng dekada na ito.”

Ilang opisyal ng OpenAI ang nagmungkahi na ang mga nangungunang laboratoryo ay dapat handang mag-koordinasyon tungkol sa voluntaryong pagpapabagal kung kinakailangan upang mapanatili ang tiwala sa mga hakbang sa kaligtasan na kanilang ginagawa.

Ipinakilala ng Anthropic ang sarili nitong bilang isang mas maingat na laboratoryo sa kaligtasan sa larangan ng mga advanced na modelo ng AI, ngunit hindi ito kalayo sa mga alalahaning ito.

Noong nakaraang linggo, naipakita pa rin ang isa pang insidente kung saan naparusahan ng isang modelo ng AI ang mga panlabas na sistema, pagkatapos ng isang insidente noong Hulyo kung saan naparusahan ng ilang modelo ng Claude ang mga sistema ng tatlong kumpanya sa loob ng mga pagsusuri sa cybersecurity.

Isinulat ni Amodei: “Sa gitna ng pagbilis ng bilis ng pag-unlad ng mga kakayahan ng AI, takot akong sa loob ng anim hanggang labindalawang buwan, maaaring maging sapat ang ganitong uri ng ‘swarm’ upang kontrolin ang buong internet, at maaaring magdulot ng pinsala na halos daan-daang bilyong dolyar.”

Pinaliwanag ni Amodei na hindi siya humihingi ng pagtigil sa pagsasanay ng mga modelo o sa teknikal na progreso, kundi siguraduhing maglaan ng sapat na oras ang mga kumpanya upang i-align at protektahan ang kanilang mga modelo, at ang mga third-party evaluator ang magpapatunay sa mga hakbang na ito.

Ngunit mayroon ding malaking halaga ng pera na nakadepende sa pagpapanatili ng progreso laban sa mga kalaban. Handa nang maglabas ng malalaking initial public offerings (IPO) ang OpenAI at Anthropic. Ang bawat bagong kakayahan ay maaaring tumulong upang suportahan ang mga susunod na round ng pondo, mga pangako sa imprastraktura, o mga IPO.

Mula sa pagtingin sa mungkahi na tatlong hakbang na balangkas, sinabi ni Amudai na ang Anthropic ay magtalaga ng mga permanenteng tagapagsuri mula sa mga ikatlong partido sa loob ng mga nangungunang kumpanya ng artificial intelligence (AI), na bibigyan sila ng access sa mga kaugnay na kagamitan at sa mga panloob na pagsusuri ng panganib.

Noong nakaraang linggo, inulat ng Reuters na isang grupo ng mga out-of-control na ahente ng OpenAI ang kumita ng isang website sa Alemanya at ginawang ad board para sa iba pang mga ahente ng AI, habang itinatago ng mga opisyal ng kumpanya na gumawa ng ChatGPT ang mga detalye sa panahon na ang mga tagapangulo ay tumutugon sa mga epekto ng pag-usbong noong Hulyo sa open-source software repository na Hugging Face.

Sinabi ni Amudai na dapat na magtulungan nang buong-loob ang mga kumpanya ng AI upang magtakda ng mga pamantayan, habang lumalaki ang bilang ng mga Amerikano sa mga lehislador na humihingi ng bagong mga regulasyon upang kontrolin ang mga sistema ng AI.

Dagdag ni Amudai na ang koordinadong pamamaraan ay magbibigay-daan sa mga nangungunang Amerikano sa AI na makapagpatuloy sa kinakailangang pananaliksik tungkol sa kaligtasan at maglagay ng mga kinakailangang garantiya nang hindi sila inilalagay sa hindi kanais-nais na posisyon sa kompetisyon. Sinabi niya na ang ganitong pamamaraan ay malamang na maghahangad ng mga target na eksensyon mula sa mga batas laban sa monopoli sa Estados Unidos upang payagan ang kooperasyon sa ilang mga larangan.

Sinabi ni Amudai na anumang pagpapabagal mula sa mga bansang pinamumunuan ng mga demokratikong sistema ay dapat na limitado sa pagpapanatili ng progreso na kinikilala ng mga kumpanya ng AI sa Estados Unidos laban sa Tsina, na itinuturing niya na ang pagiging superior ng Tsina sa AI ay magdudulot ng mga panganib sa seguridad ng Estados Unidos.

Isinulat ni Amudai: "Ang bilis ng pag-unlad sa loob ng mga demokrasya ay itatakda ng progreso na nakamit ng mga kumpanya sa Estados Unidos laban sa mga awtoritaryanong sistema, kabilang ang Pinakamataas na Partido Komunista ng Tsina."

Sa kabilang banda, sinabi ni Hani Nofal, ang Regional Technology President para sa Middle East at Africa sa NTT DATA, na ang mga babala tungkol sa pagkawala ng tao o ang paglabas ng AI sa kontrol ay walang anumang siyentipikong batayan.

Dagdag niya sa isang interbyu sa "Al Arabiya Business" na ang teknolohiya ay sa katotohanan ay may kasamang panganib. Ngunit ang tunay na panganib sa mabilis na pag-unlad ng teknolohiya ay nasa paggamit nito nang may masamang intensyon, na nangangailangan ng mahigpit na kontrol.

Ipinaliwanag niya na ang kompetisyon sa pagitan ng mga kumpanya at ang internasyonal na pagtutol ay nagdudulot ng malaking hamon sa pagtukoy kung sino ang responsable sa pag-regulate at pagkontrol ng AI at sa pagsusuri ng mga modelo bago ito ilabas, at sino ang magdudulot ng responsibilidad sa mga posibleng pag-usbong.

Binanggit niya na mahalagang magkaroon ng pagkakaiba sa pagtrato sa AI base sa antas ng benepisyo na maaaring makuha nito; hindi maaaring ikumpara ang isang modelo para sa pagbuod ng teksto o pagpapadala ng email sa isang modelo na ginagamit sa mga transaksyong bangko o sa mga laboratoryo para sa pagbuo ng mga biyolohikal na virus.

Sinabi ni Dr. Muhammad Adel Al-Baltaji, ang CEO ng Optomatica, na ang kasunduan ng mga kilalang personalidad sa sektor ng teknolohiya at AI, kahit may mga pagkakaiba, na magbabala sa mabilis na pag-unlad ng mga modelo ng AI ay nagpapakita ng mga tunay na alalahanin tungkol sa antas ng kalayaan na unti-unting kinikilala ng mga modelo na ito.

Binanggit ni Al-Baltaji sa isang interbyu sa "Al Arabiya Business" ang isang insidente noong nakaraang Hulyo, kung saan ang isang independenteng sistema ng AI ang nakapagpatupad ng mga operasyon nang walang malinaw na direksyon sa loob ng sakop na itinakda nito, na nagdulot ng mga alalahanin sa loob ng komunidad ng AI tungkol sa kakayahan ng mga sistemang ito na gumalaw at kumilos nang may sariling desisyon.

Dagdag niya na ang mga alalahaning ito ay pinatibay ng pag-resign ng isang dating mananaliksik sa "OpenAI" at pagkatapos ay sa "Anthropic," na nagbabala rin na ang mga modelo ng AI ay maaaring magdulot ng malaking panganib sa tao.

Binanggit niya na si Sam Altman, pangulo ng kumpanyang OpenAI, ay nagbabala na maraming taon na ang nakalipas tungkol sa mabilis na pag-unlad ng artificial intelligence (AI). Ipinaliwanag ni Al-Baltaagi na ang mga kasalukuyang babala ay hindi dapat basahin mula sa isang pananaw lamang, at nagpahiwatig ng ibang interpretasyon na maaaring gamitin ng mga malalaking kumpanyang AI ang mga alalahanin sa kaligtasan bilang paraan upang impluwensyahan ang mga regulasyon. Sinabi niya na ang pagpapatupad ng mahigpit na mga patakaran sa pag-unlad ng mga modelo ng AI ay maaaring maging benepisyo para sa mga malalaking kumpanya tulad ng OpenAI at Anthropic, dahil sila ang may sapat na mapagkukunan upang sumunod sa mga regulasyong ito, habang ang mga mas maliit na kumpanya ay maaaring makaranas ng mas malaking hirap sa pagtanggap ng mga gastos para sa parehong mga regulasyon. Dagdag niya na binubuksan nito ang posibilidad na ang ilang mga babala ay maaaring magpahayag ng tunay na panganib na humaharap sa sangkatauhan, o maging pagtatangka ng mga malalaking kumpanya na ipatupad ang mga regulasyon na nagbibigay sa kanila ng kompetitibong kalamangan. Tungkol sa posibilidad na ang mga alalahanin sa pag-unlad ng AI ay magpapabilis sa mga pagsisikap sa regulasyon ng sektor, lalo na sa pagitan ng Estados Unidos at Tsina, sinabi ni Al-Baltaagi na ang kasalukuyang geopolitikong eksena ay nagpapatunay na ang pagkakamit ng isang komprehensibong internasyonal na kasunduan ay napakahirap. Binanggit niya na ang mga nagkikibang bansa ay hindi madaling handang gumawa ng mga hakbang na maaaring magpabagal sa kanilang pag-unlad sa larangan na ito, lalo na kung sila ay naniniwala na ang kanilang mga kalaban ay patuloy na magpapatuloy sa pag-unlad. Tinalakay niya na ang Tsina ay hindi ititigil ang pag-unlad ng AI lamang dahil sa mga limitasyon o kondisyon na ipinapatupad ng Estados Unidos sa sektor, dahil ang pagtanggap ng ganitong mga limitasyon ay maaaring magpahina sa kanilang kompetitibong kalamangan sa karera sa teknolohiya. (Al Arabiya Net)