Naglabas ng platform ang NVIDIA upang kontrolin ang mga ahente ng AI kapag lumampas sila sa kanilang mga hangganan

Inilunsad ng NVIDIA ang isang bukas na plataporma sa seguridad na naglalayong magtakda ng direktang mga limitasyon sa mga ahente ng artificial intelligence at mabilis na i-isolate ang mga ito kung sila’y susubukang lumampas sa mga karapatang ibinigay sa kanila, habang lumalawak ang paggamit ng mga sistemang ito sa pagpapatupad ng mga sensitibong gawain sa halos awtonomong paraan.

Ang plataporma, na kilala bilang NVIDIA Open Agent Safety Platform, binubuo pangunahin ng isang bukas na pinagmulang programa na tinatawag na Open Shell at isang sangguniang sistema na may pangalang Sentry. Gumagana ang Open Shell sa pamamagitan ng pagsubaybay sa mga kilos ng ahente at pagpapatupad ng mga patakaran habang ito ay tumatakbo, samantalang gumagamit ang Sentry ng hiwalay na pagsubaybay sa antas ng hardware, at kayang i-isolate ang ahente sa loob ng ilang bahagi ng segundo kapag lumalampas ito sa mga itinakdang hangganan.

Ayon sa NVIDIA, higit sa 100 na organisasyon ang kasalukuyang nakikilahok sa pagpapaunlad o paggamit ng sistema, kabilang ang Anthropic, Microsoft, Salesforce, JPMorgan Chase, Hugging Face, at SpaceX. Maaari ring palawakin ang Open Shell upang makipag-ugnayan sa mga plataporma ng kompyutasyon mula sa ibang kumpanya, kabilang ang ARM at Intel.

Ayon sa kumpanya, kinakailangan ng seguridad ng mga ahente ang mga kontrol na sumasaklaw sa software at hardware, imbes na umasa lamang sa mga limitasyong nakalagay sa loob ng aplikasyon mismo.