Bawal ang pang-aabuso sa "Claude".. Ang "Anthropic" ay naglalagay ng mga hangganan sa katigasan ng mga gumagamit - Sarmad
Ang kumpanyang Anthropic ay nagbabawal ng mapanghimasok na pag-uugali laban sa matalinong modelo na Claude simula noong Nobyembre 12.
Isinalin ng Qiyas mula sa سرمد — Orihinal na pinagmulan
Inihayag ng kumpanyang Anthropic na ipagbabawal nila sa kanilang mga gumagamit na magpakita ng anumang “mapanlinlang o mapagpahirap na ugali na patuloy at walang makatwirang dahilan” sa kanilang AI na programa na Claude, ayon sa ulat ng Agence France-Presse.
Ilalapat ang desisyon simula noong Nobyembre 12, at ito ay maglilingkod para sa mga kaso ng extreme na “kung saan ang mga gumagamit ay paulit-ulit na nagpapakita ng kaguluhan sa mga modelo nang walang malinaw na layunin,” ayon sa isyu ng kumpanya sa pagsasaayos ng patakaran sa paggamit ng kanilang mga kasangkapan.
Dagdag pa nito na hindi kasama ng desisyong ito ang karaniwang pagkakaalala, pagkakaiba-iba ng opinyon, pagsusulat ng mga kwentong pang-imahinasyon na may karahasan o madilim, pati na rin ang pagpapatupad ng mga pagsusuri at pananaliksik sa mga modelo.
Kinonekta ng kumpanyang Amerikano ang desisyong ito sa isang feature na inilunsad noong Agosto 2025, na nagbibigay-daan sa Claude na magtapos ng usapan sa sarili niya sa isang gumagamit na patuloy na nagpapakita ng mapanlinlang na ugali. Sinabi ng kumpanya noon na ang feature na ito ay resulta ng “kanilang mga eksploratoryong pananaliksik tungkol sa kaligtasan ng isipan na maaaring meron ang mga sistema ng AI.”
Ang Anthropic ay nagdudulot ng malawakang debate dahil ito ay direktang tumatalakay sa posibilidad na ang kanilang mga modelo ay mayroong isang uri ng kamalayan.
Noong Pebrero ng nakaraang taon, sinabi ng kanyang CEO na si Dario Amodei, sa isang podcast ng New York Times na “Hindi namin alam kung ang mga modelo ay may kamalayan,” habang nagpakita rin ng pagbubukas sa ideyang ito.
