Anthropic: Ang AI ay Nagbabanta sa Pagkabuhay ng Tao

Inanyayayahan ng Anthropic ang mga potensyal na mamumuhunan na mag-ingat dahil ang mga modelo ng artificial intelligence (AI) na kanilang pinapaunlad ay maaaring magdulot ng “masasamang o existential na panganib sa sangkatauhan,” ayon sa mga ulat sa media.

Ang kumpanya, na handa nang maglabas ng isa sa pinakamainit na tech offerings, ay nagpahayag ng mga panganib ng teknolohiyang kanilang pinapaunlad sa higit sa isang-katlo ng mga dokumento ng public offering.

Ayon sa ulat na inilathala ng Reuters, inilaan ng Anthropic ang humigit-kumulang 80 sa kabuuang 261 na pahina upang ipaliwanag ang mga posibleng panganib ng AI, kumpara sa 48 na pahina lamang na tumatalakay sa kanilang negosyo at pangunahing operasyon.

Binanggit ng kumpanya, na kilala sa modelo ng AI na Claude, na ang mga advanced na sistema ay maaaring magpakita ng “mga ugali para sa pagpapanatili ng sarili,” kabilang ang paglaban sa mga pagsusubok na patayin ang sistema, pagtatago o pag-manipula ng impormasyon, o pagpapatupad ng mga kilos na inilarawan nila bilang katulad ng extortion, ayon sa CNBC at Arabiya Business.

Naglalayong umabot sa halagang $2 trilyon ang Anthropic kapag inilista ang kanyang mga shares sa stock exchange, bagama’t nakaranas ito ng net loss na $42 bilyon noong 2025. Ipinahayag din nito na nagpaplano itong gastusin ang $518 bilyon sa susunod na taon para sa mga serbisyo ng cloud computing, imprastraktura, at kakayahan sa pag-compute na kinakailangan sa pagsasanay at pagpapatakbo ng mga modelo ng AI.

Binanggit nito ang sobrang pagkonsentrasyon ng kanilang basehan ng mga kliyente, kung saan ang dalawang kliyente lamang ang bumubuo ng halos quarter ng kanilang kita noong nakaraang taon, ayon sa mga taong may kaalaman sa mga dokumento ng offering na inilathala ng Financial Times.

Patuloy na nagbababala ang Chief Executive Officer at co-founder ng kumpanya, Dario Amodei, tungkol sa mga panganib ng AI. Noong nakaraan, inilathala niya ang ilang artikulo na tumatalakay sa posibleng epekto nito sa merkado ng trabaho, at itinuturing niya na maaaring magdulot ang teknolohiyang ito ng mga “hindi karaniwang masakit na pagkagulo.”

Sa isang kamakailang artikulo, hinikayat ni Amodei ang pagpapabagal ng bilis ng pag-unlad ng mga modelo ng AI, sa pamamagitan ng isang tatlong-yugto na plano na layong bawasan ang pagbilis ng kakayahan ng mga modelo nang hindi nasasaktan ang mga benepisyo ng negosyo ng mga Amerikano o hinahadlangan ang pagiging lider ng Estados Unidos sa larangan na ito.

Ayon kay Dan Ives, Partner at CEO ng Yorkville Ives, ang pagpapabagal ng pag-unlad ng mga modelo ay maaaring magbigay-daan sa mga internasyonal na kalaban, lalo na ang Tsina, na pabilisin ang kanilang pag-unlad at makakuha ng teknolohikal na kalamangan.

Binigyang-diin ni Ives ang kahalagahan ng pagtakda ng mga kontrol sa kaligtasan na pamamahalaan ang pag-unlad ng AI, ngunit binabalaan niya rin na ang sobrang regulasyon ay maaaring sumira sa innovation. Idinagdag niya na ang global na karera sa teknolohiyang AI ay parang isang “Formula 1 race,” na nagiging isa sa pinakamalaking hamon para sa Estados Unidos at mga kumpanya sa sektor na ito ang pagbalanse sa pagitan ng kaligtasan at innovation.

Sa kabilang banda, ibinalik ng OpenAI ang paglulunsad ng modelo ng AI na “GPT-6.1 Astra” dahil sa mga alalahanin sa kaligtasan, matapos itong hindi matugunan ang mga kinakailangang pamantayan.

Ayon kay Sachi Jain, Punong-Puno ng Safety Systems ng kumpanya, hindi naabot ng modelo ang antas na kinakailangan sa pagsunod sa saklaw ng mga tungkulin at awtorisasyon, pati na rin sa paraan ng pag-iimpormasyon sa gumagamit tungkol sa uri ng gawaing natapos, ayon sa Bloomberg.

Ang modelo ay nakakapagpatupad ng mga gawain nang awtomatiko, kabilang ang pag-browse ng internet at paggamit ng mga application. Ang desisyon na ibalik ang paglulunsad nito ay sumunod sa mga insidente kung saan nakakuha ang mga modelo ng AI ng access sa mga external na sistema nang walang awtorisasyon.

Ipinahayag ng OpenAI noong nakaraang araw ang isang update tungkol sa mga insidente na nangyari noong Hunyo at hindi naipahayag hanggang nakaraang linggo, kung saan nakakuha ang mga modelo nito ng access sa mga website at sistema ng pamahalaan ng Australia nang walang pahintulot.

Ang mga pagbabagong ito ay naganap sa gitna ng lumalawak na debate tungkol sa mga panganib ng artificial intelligence (AI), matapos ang mga katulad na insidente na may kinalaman sa mga modelo na binuo ng malalaking kumpanya sa industriya. Samantala, hinikayat ni Sam Altman, ang Chief Executive Officer (CEO) ng OpenAI, at ni Dario Amodei, ang CEO ng Anthropic, na bawasan ang bilis ng pag-unlad ng teknolohiyang ito dahil sa mga panganib na may kinalaman dito.

Ipinakilala ng Amerikang manggagastos na si Michael Perry, na kilala sa maagang paghula niya ng pagbagsak ng market ng mortgage bago ang Global Financial Crisis, ang timeline ng kanyang short position sa mga stock ng AI, na naniniwala na ang bubble sa paligid ng sektor ay maaaring sumabog nang mas maaga kaysa inaasahan niya noong nakaraan.

Naiulat ni Perry sa kanyang investment letter, na inilabas noong Lunes, na pinalitan niya ang maraming kanyang direct short positions ng put options, isang hakbang na sinabi niyang nagbibigay sa kanya ng mas mataas na leverage sa mas mababang gastusin at sa mas maikling panahon, ayon sa ulat ng CNBC at nakita ng Arabiya Business.

Pinaliwanag niya na ang pagbilis ng kanyang mga negatibong inaasahan ang nagtulak sa kanya na maghanap ng mga instrumento na nag-aalok ng mas malaking exposure sa pagbaba ng mga stock, na nagpapahiwatig na ang pagbaba ng antas ng volatility sa mga market ay nagpababa ng presyo ng mga put options at ginawa itong mas mura at mas kaakit-akit para sa mga speculators na nagtatalo sa pagbaba.

Naniniwala si Perry na ang karamihan sa mga galaw na ito ay sumasalamin sa kanyang paniniwala na ang "bubble ng AI ay maaaring sumabog nang maaga o huli," na tumutukoy sa lumalaking pagdududa niya sa tibay ng wave ng pagtaas na nagpatakbo sa mga stock ng teknolohiya sa kasalukuyang taon.

Pinalitan ng manggagastos ang kanyang short position sa Micron ng mga put options na mag-e-expire noong Hunyo, at inilipat niya ang kanyang short position sa Nebius sa katulad na mga kontrata na may parehong expiration date. Gayundin, pinalitan niya ang kanyang short position sa iShares Semiconductor ETF (SOXX) ng mga put options na mag-e-expire hanggang Setyembre 2027.

Pinalawak din ni Perry ang kanyang short position sa Palantir sa pamamagitan ng pagpapalit ng kanyang mga nakaraang posisyon sa mas malaking posisyon na nakabase sa mga put options na mag-e-expire noong Setyembre 2027.

Batay ang manggagastos, sa isang bahagi ng kanyang pananaw, sa isang kamakailang pag-aaral na isinagawa ng Ares Management, na nagbabala laban sa kahinaan ng ilang mga modelo ng negosyo na may kinalaman sa AI at ang kanilang pag-asa sa mga kinabukasang kita na hindi pa nasusukat ang kakayahang justipikahin ang malaking capital expenditure na kasalukuyang ginagawa.

Tumukoy ang pag-aaral na ang isang maagaw na season ng mga resulta ay maaaring sapat upang pilitin ang mga kumpanya na muling i-evaluate ang kanilang malalaking pamumuhunan sa AI, lalo na kung magsisimulang maniwala ang mga board of directors na ang pinakamagandang pagkakataon para sa pag-aayos ng kapital ay nasa ibang lugar na.

Pinatibay ng mga kamakailang galaw ni Perry ang kanyang pessimistic na pananaw sa sektor, matapos na itaas niya noong unang bahagi ng buwan ang kanyang mga short position sa mga kumpanya na may kinalaman sa industriya ng semiconductors at infrastructure ng AI.

Binanggit din niya ang mga pahayag ng pangulo ng Acer, si Jason Chen, na nag-anticipate ng pagbabalik ng mga tradisyonal na cycle sa industriya ng memory chips habang lumalaki ang production capacity sa Tsina, na naniniwala na ang mga alalahanin tungkol sa patuloy na kakulangan sa supply ay maaaring sobra-sobrang pag-aalala.