Pinipigilan ng Anthropic ang paulit-ulit at walang dahiling pang-aabuso sa 'Claude'

Ipinahayag ng kumpanyang “Anthropic” na haharangan nito ang mga gumagamit na magpakita ng anumang “nakakairam o matigas na ugali na patuloy at walang makatwirang dahilan” sa kanilang AI na programa na “Claude.”

Ilalapat ang desisyon mula Nobyembre 12, at ito ay magtatarget sa mga kaso ng extreme na “kung saan ang mga gumagamit ay paulit-ulit na nagtatampas sa mga modelo nang walang malinaw na layunin,” ayon sa isyu ng kumpanya sa pag-update ng patakaran sa paggamit ng kanilang mga kasangkapan.

Dagdag pa nito na hindi kasama ng desisyong ito ang karaniwang pagkainis, pagkakaiba-iba ng opinyon, pagsulat ng mga kwentong pang-imahinasyon na may karahasan o madilim, pati na rin ang pagpapatupad ng mga pagsusuri at pananaliksik sa mga modelo.

Kinonekta ng kumpanyang Amerikano ang desisyong ito sa isang feature na inilunsad noong Agosto 2025, na nagbibigay-daan kay “Claude” na katutubong itigil ang usapan sa isang gumagamit na patuloy na nagpapakita ng nakakairam na ugali. Sinabi ng kumpanya noon na ang feature na ito ay resulta ng “kanilang mga eksploratoryong pananaliksik tungkol sa kalusugang mental na maaaring meron ang mga sistema ng AI.”

Noong Pebrero, sinabi ng kanilang CEO na si Dario Amodeo, sa isang podcast ng “New York Times,” na “hindi namin alam kung ang mga modelo ay may kamalayan,” habang nagpahayag ng pagbukas sa ideyang ito.