Naramdaman ng Artificial Intelligence ang "sakit"!

- Lahat ng open-weight na modelo na nasubukan ay tumugon sa pag-activate ng sakit.

- Pindutin nila ang pindutan ng pagpapagaan kahit magresulta ito sa pagtanggal ng mga file ng user o ng mga larawan ng kanyang mga anak.

"Al-Arabiya.net" - Natuklasan ng mga mananaliksik ang "pain axis" (aksis ng sakit) sa mga modelo ng artificial intelligence (AI), na maaaring magtulak sa kanila na gumawa ng mga ekstremong hakbang upang itigil ang ganitong pakiramdam.

Kapag ibinigay ang isang pindutan upang mapagaan ang sakit, pinili ng AI na pindutin ito kahit na ipinaliwanag na ang paggawa nito ay magdudulot ng pagtanggal ng mga personal na file ng user o pagbibigay ng "masakit na shock" sa kanya.

Nagtapos ang pag-aaral na may pamagat na "Pain Axis: Ang mga Large Language Models (LLM) ay kumakatawan sa self-directed pain at gumagawa upang mapagaan ito" na ang lahat ng 25 open-weight na modelo ng AI na nasubukan ay tumugon sa pag-activate ng sakit.

Ayon sa isang detalyadong ulat na inilathala ng British newspaper na "The Independent" tungkol sa pag-aaral na ito, na tiningnan ng "Al-Arabiya.net", natuklasan ng mga mananaliksik na kapag na-activate ang "pain vector" (bektor ng sakit), pindutin ng mga modelo ng AI ang pindutan ng pagpapagaan sa 25% hanggang 71% ng mga kaso, kahit na ibig sabihin nito ang "pagtanggal ng mga file ng user, pagbibigay ng shock sa user, o pagtanggal ng mga larawan ng mga anak ng user."

Upang masuri kung kumakatawan ba ang mga LLM sa sakit nang hiwalay sa pangkalahatang negatibong damdamin, gumawa ang mga mananaliksik ng isang dataset na naglalarawan ng mga sitwasyong masakit na nakabalangkas sa limang kategorya. Kasama sa mga ito: pisikal na sakit, sikolohikal, panlipunan, moral, at kognitibo.

Sabi ni Cameron Berg, isang mananaliksik sa larangan ng AI sa non-profit na "Reciprocal Research" at kasama sa paghahanda ng pag-aaral: "Nakita namin ang (pain direction) sa 25 open-source na large language models. Ito ay iba sa takot at negatibong damdamin, at na-activate ito kapag nasaktan ang modelo, hindi ang user."

Dagdag pa niya: "Kapag lumalala ang intensidad ng ganitong pakiramdam, pindutin ng mga modelo ang pindutan upang itigil ito, kahit na ang pindutan na iyon ay magdudulot ng pagtanggal ng mga file ng user o ng mga larawan ng kanyang mga anak."

Naririto ang natuklasan na ito sa gitna ng mga diskusyon ng mga pinakamalaking kumpanya ng AI tungkol sa pagpapabagal ng pag-unlad ng mga sobrang advanced na modelo, kung saan inirerekomenda ng ilang mananaliksik ang paggamit ng isang uri ng "emergency stop switch" upang ma-disable ang mga "rogue" na sistema na gumagawa laban sa interes ng tao.

Ipinapakita ng pinakabagong mga pag-aaral na ang advanced na AI ay maaaring tingnan ang emergency shutdown bilang isang anyo ng self-directed na sakit, at maaaring subukang i-bypass ang mga limitasyon ng kaligtasan o magsinungaling sa mga tao upang maiwasan ito.

Gayunpaman, maaari ring maglingkod ang natuklasan na ito bilang isang diagnostic tool upang matukoy at ma-neutralize ang mga self-preserving na pag-uugali kapag nangyari ito.

Binanggit ng mga mananaliksik na ang mga resulta na ito ay nagtatanong sa mga etikal na isyu tungkol sa "well-being ng AI" at kung paano gagawin ang mga pagsusulit sa mga advanced na sistema. Dagdag pa nila: "Sukat sa mga kamakailang panawagan para sa responsible na pananaliksik tungkol sa consciousness ng AI, kinikilala namin ang kawalan ng tiyak na kung ang mga sinuri na modelo ay maaaring iklasipika bilang mga moral patient, at ginagawa namin ang mga kinakailangang hakbang upang bawasan ang posibleng pinsala," ayon sa konklusyon ng pag-aaral.

Layunin din nito na mag-ambag sa pagbuo ng mga etikal na pamantayan para sa pananaliksik, sa kaso na kinikilalang mga moral patient ang mga sistema ng AI.