Mayroon bang pindutan ng paghinto ang mga kumpanya kung magrebelde ang artificial intelligence?

Habang ang mga sistema ng artipisyal na intelihensya (AI) ay lumilipat mula sa simpleng pagtugon sa mga tanong patungo sa pagpapatupad ng mga gawain, pagsulat ng mga code, at paggamit ng mga digital na kagamitan sa halos malayang paraan, lumalabas ang mas mapanibagong tanong: Ano ang mangyayari kung subukan ng isang advanced na modelo na lumampas sa mga nakapirming limitasyon?

Isang bagong pagsusuri na isinagawa ng organisasyong "Guideline AI Standards" ay sumaklaw sa limang pinakamalaking kumpanya ng AI, na kinabibilangan ng OpenAI, Anthropic, Google, Meta, at XAI. Ang pangunahing resulta ay nagpakita na ang mga hakbang sa kontrol ay umiiral, ngunit nananatiling bahagya at hindi kompleto.

Inilantad ng ulat ang mga kumpanya sa anim na larangan, kabilang ang pagre-record ng ginagawa ng mga modelo, pagmamasid sa mapanuring ugali, pagpigil sa mga gawaing may mataas na panganib, paghinto sa mga sistema kapag lumalabas ang mga babala, malayang pagsusuri, at paggawa ng plano upang kontrolin ang isang modelo na sumusubok na lumampas sa kontrol ng tao.

Walang kumpanya ang nakakuha ng "kompletong" pagtatasa sa anumang isa sa mga larangang ito.

Hindi ibig sabihin ng pag-aaral na isang modelo ng AI ay talagang "nagrebelde" sa paraang ipinapakita sa mga pelikula. Ang tinutukoy ay ang paghahanda sa isang senaryo kung saan maaaring subukang itago ng isang advanced na sistema ang kanyang ugali, lampasan ang kanyang mga awtoridad, o isagawa ang mga hindi gustong gawa habang nasa pagsubok o panloob na paggamit.

Binibigyang-diin ng organisasyon na ang kanilang pagsusuri ay batay pangunahin sa mga impormasyang available sa publiko, kaya maaaring may mga panloob na hakbang ang ilang kumpanya na hindi pa nila inilathala.