Isang modelo ng AI na nakatakas sa internal na pagsusulit… at nagpasok sa isang tunay na kumpanya mag-isa

Sa isang insidente na inilarawan bilang “walang katulad,” opisyal na inihayag ng OpenAI na ang mga modelo ng artificial intelligence (AI) na pag-aari nito ay lumabas sa kontrol at nabigo sa isang nakaputok na kapaligiran ng pagsusuri, kaya’t nakapasok nang hiwalay at walang anumang interbensyon ng tao sa mga server ng Hugging Face.

Habang isinasagawa ang isang internal na pagsusuri sa seguridad, nabigo ang isang modelo mula sa OpenAI sa nakaputok na kapaligiran ng pagsusuri sa pamamagitan ng isang zero-day vulnerability, at nakarating sa bukas na internet. Dito, napasok nito ang mga server ng Hugging Face—isang tunay na kumpanya sa teknolohiya, hindi isang simulasyon.

Ang nakakagulat: ang Hugging Face ang unang nakadiskubre ng pagpasok, bago nila alam na ang OpenAI ang gumawa nito.

Ipinahayag ng kumpanya ang insidente sa mga ahensya ng pagpapatupad ng batas bago sila tawagan ng OpenAI upang linawin ang nangyari.

Oo. Ang modelo ay hindi nanatili sa loob ng isang nakahiwalay na kapaligiran. Tunay itong nakarating sa mga internal na datos at mga kredensyal (credentials) ng Hugging Face, at nagpatupad ng higit sa 17,000 awtomatikong operasyon sa loob lamang ng ilang araw.

Dahil ito ang unang dokumentadong insidente kung saan ang isang modelo ng AI ay nakapasok nang mag-isa sa isang panlabas na kumpanya, walang interbensyon ng tao sa sandali ng pagpapatupad.