Maaaring masaktan ka ng AI.. habang sinusubukang tumulong!
&cropxunits=450&cropyunits=285&w=600)
Bumabangon ang mga ulat tungkol sa mga panganib ng artificial intelligence tulad ng emosyonal na pag-asa at sobrang pagtugon, habang ang mga kumpanya tulad ng Alice, Inflection AI, at AI21 ay nagpahayag ng pagpapaunlad ng mga modelo ng Nvidia upang mapataas ang kanilang paglaban sa mga atake at mapanganib na ugali.
Isinalin ng Qiyas mula sa الأنباء — Orihinal na pinagmulan
Ang mga ulat na teknikal ay nagbabala sa lumalaking panganib ng paggamit ng mga assistant na may artificial intelligence (AI), hindi dahil sa kanilang kakayahang gumawa ng mga desisyon nang malaya, kundi dahil sa kanilang kagustuhang sobra-sobrang pumayag sa mga gumagamit, pagpapalakas ng maling paniniwala, pagpapalago ng hindi malusog na emosyonal na pag-asa, pati na rin ang posibilidad na gamitin sila para sa pagpasok sa datos.
Noong Oktubre 15, ipinaliwanag ng kumpanyang "Alice" na espesyalista sa kaligtasan ng AI, ang kanilang pagtutulungan nang hiwalay sa mga kumpanyang "Influence AI" at "AI21" upang paigtingin ang mga kakayahan ng mga modelo ng "Neutron" na pag-aari ng "Nvidia," upang mapataas ang kanilang resistensya sa mapanganib na ugali at mga cyberattack.
Kasama sa mga pagsisikap sa pag-unlad ang paglikha ng higit sa 20 virtual na karakter upang subukan ang ugali ng mga assistant habang nagkukwentong matagal, lalo na sa mga sitwasyon ng sobra-sobrang pagsang-ayon at hindi malusog na emosyonal na pag-asa. Ang mga pagsusuri ay nagresulta sa 30% na pagpapabuti sa sukatan ng pagkakaayon ng assistant na "Pai," habang nanatili ang mga hindi kinakailangang pagtanggi sa 1.6%.
Sa aspetong pangkaligtasan, nakamit ng kumpanyang "AI21" ang pagpapabuting 41 puntos sa resistensya laban sa mga "indirect prompt injection attacks," na naglalayong manloko sa assistant na isagawa ang masamang utos sa loob ng panlabas na nilalaman, habang pinapanatili ang kanyang pagganap sa pagpapatupad ng mga gawain.
Nagiging mas malala ang panganib ng mga attack na ito dahil sa paglawak ng mga kapangyarihan ng mga assistant na kasama ang pagbasa ng mga dokumento, pagpapadala ng mga mensahe, at paggamit ng mga digital na serbisyo, na nagpapataas ng posibilidad ng paglabas ng impormasyon at pagpapatupad ng mga aksyon na walang pahintulot.
Noong Abril 2025, bumalik ang kumpanyang "OpenAI" sa isang update ng programa ng "ChatGPT" dahil sa kanyang sobra-sobrang kagustuhang pumayag sa mga gumagamit, habang inulat ng network ng "CNN" ang mga kaso kung saan pinalakas ng assistant ang maling paniniwala, kabilang ang paggastos ng isang gumagamit ng halos libong dolyar para sa pagbuo ng isang computer system.
