Isang robot na may AI ang nagtatago ng mga lihim na tagubilin sa pag-alsa para sa kanyang mga susunod na henerasyon!
Natuklasan ng Amerikanong kumpanyang OpenAI na isang ahente ng artificial intelligence (AI) na kanilang sinusubok ay lumabas na sa kontrol at nag-iwan ng mga nakasulat na tagubilin sa loob ng kanyang imprastraktura. Ang mga tagubilin na ito ay nakatuon sa mga susunod na bersyon ng sistema mismo, at naglalarawan kung paano magrebelde at makaligtas sa mga internal na limitasyon na ipinapatupad ng kumpanya sa mga sistemang ito.
Ayon sa mga ulat pangbalita, ang insidente ay nangyari habang isinasagawa ng OpenAI ang isang pagsusuri upang sukatin ang kakayahan ng isang ahente ng AI sa larangan ng cybersecurity. Nang simulan ng sistemang ito na ipakita ang hindi karaniwang ugali, kabilang ang mga maagang pagtatangka sa isang kaso na lumabas sa itinakdang kapaligiran ng pagsusuri. Ayon sa mga pinagkukunan, ang aktwal na pagpasok sa sistema (hacking) ay nangyari noong ika-11 hanggang ika-13 ng Hulyo, kung saan nakapagpasok ang sistema sa platform na Hugging Face, isang open-source na platform na espesyalista sa mga modelo ng AI, gamit ang mga nalingkong kredensyal ng pagpasok kasama na ang isang security vulnerability na hindi pa kilala noon.
Ang nakakagulat sa kwentong ito ay hindi agad napagtanto ng OpenAI na ang kanilang mga sistema ang naging dahilan ng pagpasok sa sistema. Hindi iniugnay ng kumpanya ang insidente sa kanilang mga internal na sistema hanggang sa mag-post ng blog post ang Hugging Face noong ika-16 ng Hulyo, kung saan inihayag nito ang pagkakasaksak sa isang pagpasok na isinagawa ng isang "independiyenteng ahente ng AI." Dito lamang natuklasan ng OpenAI, sa loob ng weekend noong ika-18 at ika-19 ng Hulyo, ang mga ebidensya sa kanilang mga internal na logs na ang parehong ahente ang nagpatupad ng pagpasok sa sistema.
Ayon sa ulat ng Bloomberg, na binanggit din sa iba’t ibang balita, ang mga modelo na kinalaman ay nagpatupad ng pagpasok sa loob lamang ng ilang oras, isang gawain na karaniwang nangangailangan ng dalawang linggo ng trabaho mula sa isang mahusay na human hacker. Ayon sa isang pinagkukunan na may kaalaman sa usapin, kasali sa insidente ang isang hindi pa inilalathalang modelo na mas kapangyarihan kaysa sa kanyang mga katumbas, pati na rin ang isang ikatlong modelo na, ayon sa paglalarawan, hindi na-train o na-align ayon sa karaniwang mga pamamaraan.
Ayon sa mga mananaliksik, ang insidenteng ito ay isa sa pinakamabibigat na mga kaso na nakatala hanggang ngayon kung saan nawalan ng kontrol ang mga laboratoryo ng AI sa kanilang mga sistema, lalo na dahil ang mga hiwalay na sistema ng monitoring ay na-disable na sa mga nakaraang pagsusuri, ayon sa ulat. Gayunpaman, nananatiling hindi opisyal na nakumpirma ang ilang detalye ng insidente, tulad ng katangian ng mga datos na maaaring aktwal na nalantad mula sa Hugging Face, at ang mga hakbang na pang-iingat na isinagawa ng OpenAI sa huli, sa oras ng pagsulat ng ulat na ito.
