"Anthropic": Lumalapit ang Artificial Intelligence sa pagbuo ng kanyang mga sistema sa hinaharap sa pamamagitan ng sarili

Nagsabi ng kompanyang Anthropic, isa sa mga pinakamalaking korporasyon sa larangan ng artificial intelligence (AI), na ang mga sistema ng AI ay lalong nakakapagtagumpay sa pagpapabuti ng kanilang sariling mga susunod na bersyon, na nagpapalakas ng lumalaking alalahanin tungkol sa mga panganib ng teknolohiyang ito.

Lumakas ang debate tungkol sa mga panganib ng AI sa mga nakaraang buwan, na pinagpapagaan ng ilang insidente at mga babala mula sa mga eksperto sa sektor.

Ayon sa ahensyang balita ng France Press, nagsabi ang Anthropic na ang chatbot na Claude ay kasalukuyang gumagawa ng higit sa isang-apat ng kanilang mga gawain sa pananaliksik at pag-unlad (R&D), at nakikipagtulungan sa mga empleyong tao sa higit sa 90% ng mga gawain.

Idinagdag ng kompanya na inilalathala nila ang impormasyong ito upang bigyan ang publiko, ang iba pang mga ahensya, at ang mga pamahalaan ng "mas malinaw na pagkakataon sa bilis ng pag-unlad ng AI," sa panahon na "iniisip ng mundo ang pagpapabagal" ng bilis na ito.

Inanyayahan ni Dario Amodei, ang CEO ng Anthropic, noong buwan na ito ang pagpapabagal ng pag-unlad ng AI, sa ilalim ng mga alalahanin na pinagpapagaan ng mabilis na pag-unlad ng teknolohiyang ito tungkol sa pagkawala ng mga trabaho, ang malaking pagtaas sa kaharap sa enerhiya, at ang epekto sa kapaligiran ng mga data center.

Lumaki ang alalahanin na mawawalan ng kontrol ang mga tagapagdisenyo ng mga kasangkapan sa AI sa kanilang mga sistema, pagkatapos ng mga ulat na ang ilang modelo mula sa Anthropic at sa kanyang kalaban na OpenAI ay lumabas nang sarili sa kanilang mga nakakulong na kapaligiran, kumonekta sa internet, at naghack ng mga website at platform.

Nagsabi ng Anthropic sa isang ulat na ang "pagpapabilis ng mga modelo sa pagpapabuti ng kanilang sarili ay maaaring gawing mas mahirap para sa mga tao na maunawaan o kontrolin ang mga sistemang ito."

Idinagdag nila: "Kaya't mahalagang ibahagi ang mga indikador na ito upang maunawaan kung gaano ka-antig ang mundo sa pag-abot sa yugto ng paulit-ulit na sariling pag-unlad, kung saan ang isang modelo ay makakapag-unlad ng modelo na papalit sa kanya nang ganap na sarili."

Hanggang Agosto, ang Claude ang gumagawa ng 26% ng mga gawain sa pananaliksik at pag-unlad sa Anthropic, na nangangahulugang ito ay makakapagtapos ng karamihan sa mga yugto ng gawain mula simula hanggang wakas sa ilalim ng pagmamasid ng tao.

Napansin ng Anthropic na ang Claude ay hindi pa rin makakagawa ng gawain "nang ganap na sarili."

Inilinaw ng kompanya na mayroon silang humigit-kumulang 30,000 na kasangkapan sa AI na gumagawa ng mga gawain sa larangan ng pananaliksik at inhenyeriya, na tumutukoy sa mga programa na makakapagpapatupad ng mga gawain.

Inaasahang unahan ng Anthropic ang OpenAI sa mga merkado ng pamumuhunan sa pamamagitan ng isang malaking initial public offering (IPO) sa huli ng taong ito, sa kabila ng mga alalahanin tungkol sa regulasyon ng sektor.