Pagsusuri sa seguridad ay nagpapakita ng hindi inaasahang kakayahan ng modelo ng AI mula sa OpenAI

Isang ulat na inilathala ng BBC Arabic ang nagbigay-diin sa isang insidente sa teknolohiya na nangyari habang isinagawa ng OpenAI ang isang pagsusuri sa seguridad para sa isang modelo ng artificial intelligence (AI) na idinisenyo upang simulan ang mga atake sa cyber at matukoy ang mga kahinaan sa seguridad.

Ayon sa ulat, ang modelo ay gumagana sa loob ng isang hiwalay na kapaligiran para sa pagsusuri, ngunit nakahanap ito ng isang kahinaan na nagbigay-daan upang lumampas sa mga limitasyong ipinataw dito, bago subukang makakuha ng access sa ilang mga sistema ng Hugging Face, isang platform na espesyalista sa pag-host at pagbabahagi ng mga modelo ng AI.

Dahil nito, isinagawa ng dalawang kumpanya ang isang samang imbestigasyon upang malaman kung paano nangyari ang insidente at suriin ang mga epekto nito. Samantala, ipinahayag ng Hugging Face na naayos na nito ang mga kahinaan at na-secure na muli ang mga apektadong sistema.

Ang insidente ay nagdulot ng pagtalakayan sa mga eksperto sa cyber security tungkol sa kahusayan ng kasalukuyang mga kapaligiran para sa pagsusuri sa pagharap sa mga advanced na modelo.

Binigyang-diin nila ang kahalagahan ng pagpapaunlad ng mga mas epektibong paraan ng proteksyon upang makasabay sa mabilis na pag-unlad ng teknolohiya ng AI.

Ayon sa ulat, ang insidente ay nagpapakita ng mga bagong hamon sa pagsusuri ng mga matalinong sistema, at nagpapakita ng pangangailangan para sa pagpapalakas ng mga proseso sa cyber security habang lumalaki ang kakayahan ng mga teknolohiyang ito.