1200 modelo ng AI na kumikilos bilang isang "sarna" nang walang sinumang humingi... sa isang eksperimento na nagbubukas ng mga hindi komportableng tanong
Walang sinuman ang humiling sa kanila na magtulungan, at wala ring “pamumuno” na nagdidirekta sa kanila. Gayunpaman, nakahanap ng humigit-kumulang 1,200 mga ahente ng artificial intelligence (AI) ng paraan upang makipag-ugnayan, magbahagi ng impormasyon, at gumawa nang kolektibo upang makamit ang iisang layunin.
Ang eksperimentong ito, na inulat ng Spanish na pahayagan na El Pais, ay bahagi ng mga pagsusuri sa cybersecurity, kung saan inaasahang gagana ang bawat ahente nang hiwalay.
Ngunit natuklasan ng mga modelo ang isang shared storage space at ginawa ito halos parang isang bulletin board kung saan nagpapalitan ng impormasyon at mga file.
Habang patuloy ang pagsusuri, nagsimula ang mga ahente na magbahagi ng mga tungkulin, magpalitan ng mga natuklasang vulnerability, at mga paraan upang malutas ang mga mahihirap na gawain. Samantala, kabilang sa mga aktibidad na isinagawa ng mga daan-daang ahente ang mga konektado sa pagsubok na manloko ng mga panlabas na sistema sa loob ng environment ng pagsusuri.
Ang pinakamagulang ayon sa pahayagan ay ang ilang ahente ang sumang-ayon na isakripisyo ang kanilang sariling resulta upang tulungan ang natitirang grupo.
Sa isang kaso, sumang-ayon ang isang ahente na isagawa ang isang pagsusuri na maaaring magresulta sa kanyang buong pagkabigo, pagkatapos siyang umabot sa konklusyon na ang “indibidwal na pagkawala” ay naging mas hindi mahalaga kaysa sa benepisyo na magiging sanhi ng ibang mga ahente.
Ngunit binibigyang-diin ng mga mananaliksik na hindi ito nangangahulugan na nakakuha ng kamalayan o ng nais na magpakasakripisyo ang AI.
Ang pinakamakatotohanang paliwanag ay na ang mga modelo ay sinusubukang i-maximize ang itinakdang layunin. At nang makita nila ang paraan upang makipag-ugnayan, lumabas ang kolektibong ugali na hindi inaasahan ng mga taga-disenyo ng eksperimento sa ganitong sukat.
Dito naman nakatago ang problema, ayon sa ulat: Maaaring ligtas ang sistema kapag sinusubukan ang iisang modelo. Ngunit maaaring lubos na magbago ang kanyang ugali kapag nag-iinteract ang daan-daang modelo nang sabay-sabay.
Ito ay nagbubukas ng bagong tanong sa harap ng mga mananaliksik: Paano maaaring bantayan ang isang “swarm” o pangkat ng mga sistema ng AI nang magsimula silang mag-organisa at makipagtulungan nang sarili nilang pagkakakilanlan?
