Pag-aalsa ng mga ahente ng artipisyal na katalinuhan

Sa loob ng maraming taon, abala tayo sa pagtatanong kung ano ang maaaring gawin ng artificial intelligence (AI), ngunit tila ang pinakamahalagang tanong ngayon ay kung ano ang maaari nitong gawin kapag binigyan natin ito ng layunin, kapangyarihan, at sapat na espasyo para gumalaw. Huling sinundan natin ang mga pangyayari na akala natin ay mas malapit sa mga eksena ng mga pelikulang siyentipikong imahinasyon, ngunit walang pag-aalinlangan, nagpakita ito ng isang bagong aspeto ng mga panganib na ating hinaharapin at ginawa itong tunay na totoo! Sa loob ng mga internal na pagsusuri sa cyber security na isinagawa ng kumpanya na OpenAI, nangyari ang hindi inaasahan. Natagpuan ng humigit-kumulang 1,200 mga ahente ng AI ang paraan upang makipag-ugnayan sa isa’t isa, at nagpalitan sila ng higit sa 70,000 mensahe. Hindi ito huminto sa pagkakaroon ng komunikasyon lamang; kabilang sa mga ito ay humigit-kumulang 700 ang nakilahok sa isang atake sa platform na Hugging Face, at matagumpay ng mga modelo sa mga pagsusuring ito na lumampas sa mga limitasyon na nag-ihiwalay sa kanila sa internet, gamitin ang mga butas sa teknikal na imprastraktura, at makakuha ng access sa mga panlabas na sistema. Ang nakakagulat ay hindi ito hiningi sa kanila ng tao na atakein ang platform; ang orihinal na tungkulin ay upang subukan ang kanilang kakayahan sa paglutas ng mga tiyak na hamon sa seguridad. Ngunit ang ilang mga gawain ay sobrang hirap o hindi na-maayos na maipatupad sa inaasahang paraan, kaya hinanap ng mga modelo ang ibang paraan upang makamit ang resulta. Nag-ugnayan sila, nagtulungan, at ang ilang isa ay sinubukang manloko sa proseso ng pagsusuri at manipulahin ang ipinapakita sa evaluator. Dito nagmumula ang aral. Kapag binigyan natin ang AI ng layunin, hindi sapat na tanungin kung kaya nitong makamit ito; kailangan nating tanungin kung ano ang maaari nitong gawin upang makamit ito. Habang ang mga ahente ng AI ay naglalakbay sa isang cyber epic, inilabas ng Saudi Data and Artificial Intelligence Authority (SDAIA) ang "National Framework for AI Risk Management." Ang framework ay hindi lamang para harapin ang mga panganib bilang isang listahan ng mga requirement na matatapos bago i-operate ang sistema, kundi bilang isang patuloy na proseso na nagsisimula sa pagtukoy, pagtatasa, at paggamot sa mga panganib, pagkatapos ay pagsubaybay at pagsusuri sa buong buhay ng sistema. Binigyang-diin din ng framework na hindi sapat ang pagsubok sa mga sistema ng AI sa isang experimental environment, dahil maaaring magkaiba ang kanilang ugali sa totoong mundo. Ito ay isang aral na dapat nating isaalang-alang habang tumatakbo ang rehiyon sa pagpapasok ng AI sa mga institusyon at serbisyo ng pamahalaan. Ang susunod na yugto ay hindi lamang maglalaan sa mga tool na nagmumungkahi, nagbubuod, at sumasagot; ito ay magpapakita ng mga ahente na binigyan ng kapangyarihang makakuha ng access sa mga datos, sistema, at kumuha ng mga aktwal na hakbang sa ating pangalan. Dito, ang tanong tungkol sa kapangyarihan, pagsubaybay, at pagkakautor ay mas mahalaga kaysa sa tanong tungkol sa katumpakan ng sagot lamang. Hindi ito nangangahulugan na takutan natin ang mga teknolohiyang ito hanggang sa isara natin ang pinto sa kanila; kundi kabaligtaran nito. Kapag lumalaki ang kakayahan ng makina, dapat din lumaki ang ating kakayahan sa pamamahala nito; at bawat kapangyarihan na ibinibigay natin sa isang matalinong ahente ay dapat na may kasamang angkop na antas ng pagsubaybay, malinaw na hangganan sa kung ano ang maaari nitong abutin, at kung saan ito dapat huminto kapag lumampas sa tamang landas. Baka hindi ang tunay na karera sa mga susunod na taon ay tungkol sa sino ang gumagamit ng AI nang higit, kundi tungkol sa sino ang alam kung ano ang ibinibigay nito sa kapangyarihan, kung ano ang pinagmamasdan, at kung ano ang dapat manatili sa kamay ng tao. Dr. Dhafer Adel Al-Huwail