Maaaring magpalatag ng mga lihim ng iyong kumpanya ang iyong matalinong empleyado... Paano mo ipoprotektahan ang iyong datos?

Lumalawak ang paggamit ng mga ahente ng artipisyal na intelihensya (AI) ng mga kumpanya upang mapabilis ang mga operasyon at i-automate ang mga pang-araw-araw na gawain, ngunit ang pagbibigay sa mga sistemang ito ng malawak na kapangyarihang pampatupad ay nagdudulot ng lumalaking alalahanin sa seguridad, lalo na dahil sa kanilang kakayahang makakuha ng access sa email, mga dokumento, mga database, at mga internal na aplikasyon.

Iba ang mga ahente mula sa mga tradisyonal na assistant dahil sa kanilang kakayahang magpatupad ng mga aksyon nang walang patuloy na interbensyon ng tao; maaaring maghanda ang isang ahente ng mga ulat sa benta, suriin ang datos, at ipadala ang mga resulta nang awtomatiko sa pamamagitan ng mga application programming interfaces (APIs) at mga connector.

Nagiging malinaw ang mga panganib kapag lumampas ang mga kapangyarihan ng ahente sa mga kinakailangan ng kanyang tungkulin, na nagbibigay-daan sa kanya na baguhin o burahin ang mga file, o ibahagi ang mga sensitibong impormasyon.

Ikinakategorya ng organisasyong OWASP ang sobrang pagbibigay ng kapangyarihan (excessive privilege) bilang isang panganib na may kinalaman sa mga aplikasyon ng malalaking modelo ng wika (large language models), lalo na kapag ang ahente ay nakakonekta sa maraming sistema o binigyan ng malawak na administratibong kapangyarihan.

Sa mga pangunahing banta ay ang “prompt injection,” kung saan inilalagay ang mga masamang utos sa loob ng mga mensahe sa email, mga dokumento, o mga pahina ng web, na may layuning paalalahanan o pilitin ang ahente na lumampas sa kanyang tungkulin at magpalabas ng datos sa mga panlabas na partido, kung pinapayagan ng kanyang mga kapangyarihan. Maaaring lumala ang mga pagkakamali kapag ang mga output ng isang ahente ay ipinapasa sa isa pa nang walang pagsusuri.

Upang bawasan ang mga panganib, inirerekomenda ng mga eksperto ang pagpapatupad ng prinsipyo ng pinakamababang kapangyarihan (principle of least privilege), paghihiwalay ng mga karapatan sa pagbasa, pagbabago, pagbura, at pagpapadala, pagtatakda ng mga hiwalay na digital na pagkakakilanlan para sa mga ahente, at pagpapaalala ng kailangan ng pahintulot ng tao para sa mga sensitibong operasyon.

Kasama sa mga hakbang sa proteksyon ang pagsubaybay at pagre-record ng mga aktibidad, pagpipigil sa mga panlabas na komunikasyon, paggawa ng mga regular na pagsusuri sa seguridad, pagsusuri sa mga kaugnay na aplikasyon, at paghahanda ng mga mekanismo upang patayin o i-disable ang mga ahente kapag may pag-aalala sa maling paggamit.

Kailangan din ng proteksyon ang malinaw na mga patakaran upang tukuyin ang mga responsibilidad sa pagmamasid at pagsasanay sa mga empleyado, upang matiyak na makamit ang mga benepisyo sa produktibidad nang hindi nasasakripisyo ang katiwasayan ng impormasyon at integridad ng mga sistema.