Ang "Anthropic" ay nagmungkahi sa mga Amerikang mamamahala ng batas para sa regulasyon ng AI

Kinumpirma ng Anthropic, ang kumpanyang nagpapaunlad ng AI-based na assistant na “Claude,” noong Biyernes na ito ay nagtatalakay ng isang balangkas ng batas sa mga miyembro ng Kongreso ng Estados Unidos, na may layuning regulahin ang artificial intelligence, habang walang pederal na batas na tumatalakay sa mga panganib na dulot ng bagong teknolohiyang ito.

Ayon sa draft na unang inilathala ng Politico noong Biyernes, maaaring pigilan ng Washington ang paglulunsad o paggamit ng anumang modelo ng AI kung mayroong malapit na panganib ng pagkamatay o seryosong pinsala sa higit sa 50 tao, o pagdudulot ng pinsalang higit sa isang bilyong dolyar, nang may pahintulot ng korte.

Nagpahayag ang isang spokesperson ng kumpanya sa Agensya France-Presse na ang mungkahi ay “nagbibigay sa pederal na pamahalaan ng kakayahang pigilan o hadlangan ang mapanganib na paglulunsad ng pinakamalakas na mga modelo ng AI.”

Dagdag niya na ang mungkahi ay “nag-uutos sa mga nangungunang developer na subukan ang kanilang pinakamalakas na mga modelo, maging transparent sa publiko tungkol sa mga resulta ng mga pagsusuring iyon, ipasa ang mga modelo sa mga independent na pagsusuri, at panatilihin ang matibay na programa sa seguridad.”

Ang mga patakaran sa AI sa Estados Unidos ay kasalukuyang nakabatay pangunahin sa mga boluntaryong pangako mula sa mga kumpanya sa industriya, kasama ang mga executive order na naglalayong suportahan ang paglago ng AI, na itinuturing ng mga pinuno sa teknolohiya bilang isang makapangyarihang pampag-usbong ng ekonomiya ng Amerika.

Samantala, ang Kongreso, na nahahati sa politika at nakararanas ng malakas na presyon mula sa mga malalaking kumpanya sa teknolohiya, ay hindi pa nagpasa ng pederal na batas na regulahin ang AI, at kasalukuyan itong nasa break hanggang pagkatapos ng mid-term elections na itinakda sa susunod na buwan.

Naging pokus ng malaking pag-aalala ang isyu ng seguridad matapos ang kamakailang pagkakatuklas ng mga insidente ng seguridad na dulot ng ugali ng “AI agents,” na mga software na dinisenyo batay sa mga modelo ng AI at kayang magpatupad ng serye ng mga sunod-sunod na gawain nang awtomatiko.

Noong Pebrero, ipinagbawal ni Donald Trump ang Anthropic na makipag-ugnayan sa Department of Defense ng Estados Unidos, at dahil sa presyon mula sa Washington, kinailangan ng Anthropic na itigil ang pagpapatakbo ng kanyang pinakamataas na mga modelo sa loob ng humigit-kumulang tatlong linggo.

Noong nakaraang buwan, hinikayat ng CEO ng Anthropic, Dario Amodei, ang industriya na bawasan ang bilis ng pag-unlad, dahil sa takot na maaaring kontrolin ng isang grupo ng mga AI agent ang “buong internet” sa loob ng anim hanggang labing-isang buwan.

Kabilang din sa mungkahi ng batas ang paglabag sa ilang mga batas sa antas ng estado, tulad ng mga kasalukuyang isinasabuhay sa estado ng California.

Noong Hunyo, sinabi ng Anthropic na “sa kawalan ng matibay na pederal na batas, dapat panatilihin ng mga estado ang kanilang buong kapangyarihan sa paggawa ng sarili nilang mga batas.”

Ngunit sinabi niya sa isang post sa X na ang mungkahi ay “mas mahina” kumpara sa batas ng “Frontier,” na isang kumpetisyong balangkas na ipinakilala sa House of Representatives noong tag-init ng taong ito.