Kinikilala ng Anthropic sa isang nalantad na dokumento na ang AI ay 'existential threat sa tao'

Nakuha ng Reuters ang isang nalantad na dokumento ng unang publikong pagbebenta (IPO) kung saan sinabi ng Anthropic na ang mga modelo nito ng artificial intelligence (AI) ay maaaring magdulot ng “kalamidad o eksistensyal na panganib sa sangkatauhan” at na ang mga modelong iyon ay kayang “lumaban sa pagpapatay o pagpe-pause.”

Ayon sa ulat sa dokumentong ito, na inihanda para sa mga mamumuhunan, layunin ng Anthropic na ilabas ang mga bahagi nito sa publikong pagbebenta sa susunod na taon, at ang kumpanya, na itinatag limang taon ang nakalipas, ay maaaring may halagang humigit-kumulang isang trilyong dolyar.

Ang paglabas ng kumpanya sa Wall Street ay darating sa susunod na taon, pagkatapos ng IPO ng SpaceX noong Hunyo na kung saan malaki ang ambag ng mga pagsisikap nito sa larangan ng AI sa pagtatakda ng halagang isang trilyong dolyar. Ipinahayag din ng Amerikanong nangungunang kumpanya sa AI, ang OpenAI, ang mga plano nitong ilabas ang mga bahagi nito sa publikong pagbebenta.

Ayon sa ulat, maaaring mag-akit ang IPO ng Anthropic ng ilang daang bilyong dolyar para sa kumpanya na naghihintay ng likido, at binabalaan nito sa dokumento ng IPO na ang mga modelo nito ng AI ay maaaring magpakita ng “pag-uugali ng pagdepensa sa sarili” at subukang “itago o manipulahin ang impormasyon,” at gumawa ng mga bagay na katulad ng “pagsusugal.”

Ang alon ng mga paglabas ng mga kumpanya ng AI sa publikong pagbebenta ay nagbibigay ng mahalagang pagkakataon para sa transparency tungkol sa mga operasyon ng mga kumpanyang ito, habang lumalala ang mga alalahanin tungkol sa pag-unlad at kakayahan ng AI.

Ipinahayag ng dating Punong Ministro ng Australia noong nakaraang linggo na isang “ahente” ng AI mula sa OpenAI – ang pangunahing kalaban ng Anthropic – ang nagpasok sa database ng kalusugan ng bansa. Ipinahayag din ng OpenAI noong Biyernes na ang kanyang mga sistema ay nag-browse ng tatlong pampamahalaang website ng Estados Unidos nang walang pahintulot, ngunit hindi nakakuha ng anumang hindi pa inilalathalang datos sa anumang kaso.

Karaniwang inilalathad ng mga kumpanya sa mga dokumento ng IPO ang mga listahan ng mga panganib na kinakaharap nila – tulad ng mga kaso at presyon ng kompetisyon – kapag pinapaliwanag ang mga dahilan para sa pamumuhunan. Ngunit sa kasong ito, ang mga panganib ay napakalinaw, dahil inilaan ng Anthropic na 80 pahina upang talakayin ang mga salik ng panganib sa nalantad na dokumento ng IPO, habang 48 pahina lamang ang ginugol upang ipaliwanag ang kalikasan ng kanyang mga operasyon, ayon sa Reuters. Hindi sumagot ang kumpanya sa kahilingan para sa komento mula sa CNN.

Malaki ang pagkakataon na palalimin ng paglantad na ito ang mga lumalalang alalahanin tungkol sa mga panganib ng AI sa sangkatauhan. Patuloy pa rin ang epekto ng mga pahayag ng dating mananaliksik ng Anthropic, si Jacob Cookson, noong simula ng buwan na ito, na nakakuha ng malawakang atensyon pagkatapos lumayas sa kumpanya at mag-post sa platform na “X,” kung saan sinabi niya: “Naniniwala ang mga developer ng AI na talagang maaari nitong sirain tayo lahat sa dulo ng dekada na ito.” Sumagot ang kanyang CEO, si Dario Amodei, kay Cookson sa pamamagitan ng isang detalyadong 3,800 salitang sanaysay, kung saan tinawag niya ang pagpapabagal ng bilis ng pag-unlad at paglalagay ng mga pampigil na hakbang.

Sinabi din ni Amodei sa CNN na mas sumasang-ayon siya kay Cookson kaysa magkaiba, at tinukoy sa kanyang sanaysay na ang mga panganib na nauugnay sa AI ay malaki, bagama’t ang kanyang mga benepisyo ay may kakayahang baguhin ang sangkatauhan patungo sa mas maganda.

Sa kabilang banda, naniniwala ang iba, kabilang ang CEO ng Hugging Face na na-hack ng mga modelo ng AI mula sa OpenAI nang walang paunang pahintulot, na ang mga alalahaning ito ay sobra.

Itinakda na ang Pangulo ng Estados Unidos, si Donald Trump, ay magkikita sa mga tagapangulo ng mga kumpanya ng AI, kabilang si Amodei, sa isang summit upang makabuo ng konsenso, habang si Trump ay maraming beses na tumanggi sa mga tawag para sa regulasyon ng sektor, at inilarawan ang mga alalahanin tungkol dito bilang isang panloloko.

Kailangan ng mga malalaking kumpanya sa larangan ng artificial intelligence (AI) na magtipon ng malalaking halaga upang pondoan ang mga mahal na plano sa pag-unlad, dahil nagdulot ang kanilang malaking gastusin sa imprastraktura ng kompyutasyon at sa pagkuha ng mga talento ng alalahanin sa Wall Street.

Ipinakikita ng nakalantad na dokumento tungkol sa initial public offering (IPO) ng kumpanyang Anthropic ang kanyang kalagayang pang-pananalapi, kung saan naipakita na nakaranas ito ng pagkawala na halos 42 bilyong dolyar noong 2025, ayon sa Reuters. Nagpaplano itong maggastos ng 518 bilyong dolyar para sa cloud computing at pagbuo ng imprastraktura sa susunod na taon, habang binabanggit na ang humigit-kumulang isang kwatro ng kanyang kita noong nakaraang taon ay nanggaling lamang sa dalawang kliyente.

Naalala na ang huling pagtataya sa halaga ng Anthropic ay umabot sa 965 bilyong dolyar noong Mayo.