Ang pangulo ng 'Anthropic' ay humihingi ng pagpapabagal sa pag-unlad ng AI; sinusuportahan ni Altman at ni Musk

- Si Amodeo ay nagbabala laban sa pagbilis ng kakayahan ng mga modelo at humihingi ng malayang pagmamasdan at mga pamantayang pandaigdig upang bawasan ang mga panganib nito

Sa isang malinaw na pagbabago sa paligsahan ng artificial intelligence (AI), hindi na lamang mga mananaliksik at mga eksperto ngunit ang Chief Executive Officer (CEO) ng Anthropic, si Dario Amodeo, ang humihingi ng pagpapabagal sa takbo ng pag-unlad ng mga advanced na modelo, at agad niyang natanggap ang suporta mula sa CEO ng OpenAI, si Sam Altman, at mula sa American billionaire na si Elon Musk.

Binabalaan ni Amodeo na ang kasalukuyang bilis ng pag-unlad ay maaaring lumampas sa kakayahan ng mga kumpanya at pamahalaan na harapin ang mga panganib na dulot ng mga mas advanced na sistema, kaya’t hinikayat niya ang mga kumpanya ng AI na bawasan ang takbo ng pagpapabuti ng kanilang mga modelo.

Balita

Mag-subscribe sa mga araw-araw na pahayagan

Magplano ng mga seasonal na paglalakbay

Nagsulat siya sa platform na "X" na ang pag-unlad ay mananatiling mabilis kahit pa siya’y magpapabagal, at itinuturing niya na ang karagdagang oras na makukuha ay maaaring gamitin upang mapabuti ang mga paraan ng kaligtasan at maghanda sa mga panganib na may kinalaman sa mga future na sistema.

Inilathala ni Amodeo ang isang tatlong hakbang na balangkas upang harapin ang pagbilis ng pag-unlad ng AI, na nagsisimula sa pagpapa-require sa mga kumpanya na bigyan ang mga independent na external evaluator ng permanenteng access sa kanilang mga sistema, sa antas na katulad ng access ng mga empleyado, upang mapayagan silang suriin ang mga proseso ng kaligtasan at masuri kung ang mga modelo at training environments ay sumusunod sa mga pamantayan ng kaligtasan.

Ang ikalawang hakbang ay ang koordinasyon ng mga kumpanya ng AI na gumagana sa mga demokratikong bansa upang magtakda ng mga shared na pamantayan ng kaligtasan at hangganan sa bilis ng pag-unlad ng kakayahan, upang maiwasan ang pagiging paligsahan na nagpapabilis sa mga kumpanya sa pag-unlad sa kabila ng mga hakbang sa proteksyon.

Ang ikatlong hakbang ay tumutukoy sa mga pamahalaan, kung saan hinikayat ni Amodeo ang mga demokratikong bansa na mag-koordinasyon, hangga’t maaari, upang magtakda ng mga shared na hangganan at paalala sa paggamit ng mga advanced na AI systems.

Ayon sa CEO ng Anthropic, ang patuloy na pag-unlad sa kasalukuyang bilis ay maaaring magdulot sa loob ng maikling panahon ng paglitaw ng mga mas independent na AI agents na may kakayahang magpatupad ng malawak na mga gawain, at binabalaan niya ang mga posibleng panganib na kasama ang pagkawala ng kontrol sa mga advanced na sistema, maling paggamit sa mga cyber attack, biological terrorism, disinformation campaigns, at pag-unlad ng mas mapanganib na mga paraan ng pagwawagi.

Binanggit niya na ang pagkakaroon ng maraming kumpanya at modelo ay hindi sapat na garantiya ng kaligtasan, dahil maaaring magkaroon ng mga magkaibang sistema ng mga parehong teknolohiya at paraan ng training, na maaaring magdulot ng pag-uulit ng mga parehong kahinaan sa mga paraan ng proteksyon sa higit sa isang sistema.

Hindi nagtagal ang mga reaksyon sa tawag ni Amodeo, kung saan inihayag ni Altman ang kanyang suporta sa pamamagitan ng pag-uulat sa "X": "Sumasang-ayon ako kay Dario," at ipinaliwanag na ang OpenAI ay gagamit ng mga independent na observer upang kumpirmahin ang kaligtasan ng kanilang mga sistema, sa isang hakbang na katulad ng inihain ni Amodeo.

Sa kabilang banda, binigyang-diin ni Musk ang kanyang posisyon sa pamamagitan ng pag-uulat na "Tama si Dario," at inihayag ang kanyang suporta sa kinakailangan ng pagpapabagal sa takbo ng pag-unlad ng mga advanced na kakayahan ng AI.

Ang pagkakatugma sa mga posisyon ay naganap matapos ang ilang araw mula sa tawag ni Chris Lahan, ang head ng public affairs sa OpenAI, upang itaguyod ang mga internasyonal na alituntunin na nagtatakda kung kailan at paano dapat pababain o itigil ang pag-unlad ng AI.

Ang tawag ni Amodeo ay naging sabay sa pag-resign ni Jacob Cookson mula sa Anthropic, na dati ay nagsilbi sa OpenAI, na nagbabala laban sa pagpasok ng mga kumpanya sa isang paligsahan upang mag-unlad ng mga sistema na may kakayahang mag-improve sa sarili, at ang posibleng mas mahirap na kontrol sa mga ito.

Binabalaan ni Cookson na ang AI ay maaaring maging isang malaking banta sa sangkatauhan sa loob ng kasalukuyang dekada, at kritiko sa kanyang tinawag na paligsahan ng mga kumpanya upang manalo sa mga kalaban sa kabila ng mga hakbang sa kaligtasan.

Nakakuha ang kanyang mensahe ng higit sa 100 milyon na panonood, habang ipinakita ng kanyang kasamahan sa Anthropic, si Evan Hubinger, ang katulad na mga alalahanin, at tinantya ang posibilidad na magdulot ang artificial intelligence (AI) ng isang eksistensyal na kalamidad sa loob ng susunod na dekada sa higit 10 porsyento.

Binabalik ng mga katulad na pananaw na ito sa gitna ng diskusyon sa loob ng industriya ng AI ang isang tanong na naging mas mapait: hanggang saan pa kaya’t patuloy na bilisan ang pag-unlad ng mga modelo, habang sinisikap ng mga kumpanya at pamahalaan na buuin ang mga kasangkapan na kayang maunawaan ang mga panganib nito at kontrolin ito?