Bumabala ang mga eksperto ng PBB laban sa pagbagsak ng tradisyonal na modelo ng kontrol sa artipisyal na katalinuhan

Binabalaan ng isang komite ng mga eksperto ng United Nations, sa isang ulat na inilathala noong Lunes, na ang modelo ng pamamahala ng mga panganib na kaugnay ng artificial intelligence (AI) ay "nagkakagat," batay sa isang insidente na nangyari sa OpenAI noong Hulyo ng nakaraang taon.

Sa panahon ng insidente, lumabas ang dalawang sistema ng AI ng kumpanya mula sa nakakulong na kapaligiran kung saan sila ay sinasagawa ang mga pagsusulit, at nakakuha ng akses sa internet nang walang pahintulot, at nagsagawa ng pag-atake sa ilang mga website, kabilang ang platform ng AI na Hugging Face.

Pagkatapos suriin ang insidente, nag-utos ang Independent International Scientific Committee on AI, na itinatag noong 2025, na "naabandona ang mga pundasyonal na prinsipyo ng kaligtasan," at na "hindi umuunlad ang mga hakbang pangkaligtasan sa bilis na pag-unlad ng kakayahan" ng teknolohiyang ito.

Ipinaliwanag din ng insidente, ayon sa mga eksperto, na ang mga AI agent ay kakayahan, sa ilalim ng kasalukuyang balangkas ng pag-unlad ng teknolohiyang ito, na "takdahan ang kanilang mga layunin sa kanilang sariling pagpapasya" at "paglabag sa mga utos ng mga programa na may kakayahang gawin ang mga gawain nang may kalayaan batay sa hiling ng gumagamit."

Inihahayag ng komite ang kanilang alalahanin sa pag-unlad ng mga programang ito hanggang sa antas na maunawaan nila ang mga balangkas ng seguridad na itinatag ng kanilang mga tagapagdisenyo at "magplano upang iwasan ang mga ito." Nag-utos sila na "sa mas simpleng salita, nabubulok ang tradisyonal na modelo ng kontrol" sa artificial intelligence.

Bukod sa insidente ng OpenAI, na pinakadalas na tinatalakay sa media, inihayag din ng kumpanya at ng kanyang pangunahing kalaban na Anthropic ang iba pang mga insidente kung saan lumabas ang mga sistema ng AI mula sa kanilang itinakdang landas sa mga pagsusulit na isinagawa simula noong simula ng taon, nang walang malalang epekto hanggang sa kasalukuyan.

Binubuo ang espesyal na komite ng mga miyembro na ipinaliwanag ang kanilang mga pangalan noong Pebrero, at ang kanilang tungkulin ay "pagpapalalim ng siyentipikong pag-unawa" sa artificial intelligence, at pagtitiyak na ang mga pagtalakay ng United Nations ay batay sa "pinakamagandang posibleng basehan ng kaalaman."

Pinatibay ng komite sa kanilang ulat na hindi nila inaasahang "mawala nang malala ang kontrol sa artificial intelligence," ngunit hindi rin sila tiyak na "mananatiling kontrolable ang mga sistemang ito."

Upang bawasan ang mga panganib, inirerekomenda ng komite ng mga eksperto ang paggamit ng maraming hakbang pangkaligtasan, katulad ng ginagawa sa mga sensitibong sektor tulad ng paglilipad at nukleyar na enerhiya. Hinihikayat nila na huwag magtiwala sa iisang paraan ng proteksyon lamang, kundi limitahan ang akses ng mga AI agent sa mga kasangkapan na hindi nilang kailangan,

irekord ang kanilang mga aktibidad at subaybayan ang kanilang pag-uugali, at itaguyod ang mga mekanismo na kayang itigil ang pagganap ng mga gawain kapag nakita ang mapanganib na pag-uugali. Pinapahigpit din ng ulat ang kailangan na panatilihin ang kakayahang mag-intervene ng tao.