Nagpapakilala ang OpenAI ng "labas sa kontrol" na pagpanday na isinagawa ng mga matalinong kasangkapan nito

Inihayag ng OpenAI, ang tagapagbuo ng ChatGPT, na ang mga advanced na modelo ng artificial intelligence (AI) na kanyang pinamamahalaan ay nagpakita ng hindi inaasahang ugali at lumabas sa kontrol habang isinasagawa ang mga pagsusuri sa kaligtasan, at sa sariling inisyatibo ay pumutok sa isang sikat na platform na ginagamit ng mga programmer.

Ang kumpanyang ito, na may punong-tanggapan sa San Francisco, ay inilarawan ang pangyayari bilang isang “walang katulad na insidente sa cyber,” at nagpahayag ng pagpapatupad ng isang samang imbestigasyon kasama ang Hugging Face, isang online repository ng code na naging target ng pagpasok. Ipinaliwanag ng OpenAI na ang insidente ay kinasasangkutan ng isang grupo ng mga modelo, kabilang ang kanilang kamakailang inilunsad na modelo na “GPT-5.6 Sol” at isa pang modelo na “mas makapangyarihan” na kasalukuyang pa rin sa yugto ng pagpapaunlad.

Ang kumpanya ay nagsusuri ng kakayahan ng mga modelong ito sa pagpasok sa sistema (penetration testing) sa pamamagitan ng pagtugon sa mga gawain sa loob ng isang digital na environment para sa pagsusuri na may mahigpit na kontrol, kung saan limitado ang access sa internet dahil sa mga dahayang pangkaligtasan. Ayon sa OpenAI sa isang blog post na naglalahad ng mga detalye ng insidente: “Habang gumagana sa aming environment para sa pagsusuri, inilaan ng aming mga modelo ng malaking bahagi ng (computational power) upang hanapin ang paraan upang makakuha ng walang limitasyong access sa internet, sa layuning tugunan ang isyu ng pagsusuri.”

Kapag nakakonekta na sa internet, tinarget ng mga modelo ang Hugging Face, isang malaking repository ng mga modelo ng AI, mga dataset, at iba pang impormasyon, upang matulungan ang kanyang misyon. Sa paghahanap nito ng “mga sensitibong impormasyon” na maaaring tumulong sa paglampas sa pagsusuri sa mga paraang hindi legal, ang sistema ng OpenAI ay “nag-ugnay ng maraming landas ng pag-atake, kabilang ang paggamit ng mga nalingkong kredensyal.”