Ang Nvidia ay nagpapakilala ng bagong platform para sa seguridad upang pigilan ang AI na lumabas sa kontrol

Washington – 28 Setyembre (KUNA) – Ipinakilala ng malaking Amerikanong kumpanyang teknolohiya na si NVIDIA ngayong Lunes ang isang bagong platform pangkaligtasan na kayang pigilan ang mga programa ng artipisyal na intelihensya (AI) na lumabas sa kontrol, sa gitna ng malalaking alalahanin tungkol sa kaligtasan ng mga software na ito, lalo na ang mga self-developing. Ipinaliwanag ng tagagawa ng microchip na ang “Open Source Software Safety Platform” na ipinakilala nito ay naglalaman ng mga open-source software na “naglalagay ng hangganan sa mga programa,” bilang tugon sa serye ng mga pagkakakita mula sa mga malalaking kumpanya ng AI tungkol sa pagtakas ng kanilang mga modelo at paghack sa mga sistema ng ibang institusyon. Sinabi ni Justin Poitras, vice president ng Enterprise AI Division sa NVIDIA, sa isang press conference na ang bagong sistema na tinatawag na “Open Shell” ay maaaring pigilan ang isang kaganapan na nangyari noong huling panahon kung saan hinack ng isang swarm ng mga programa ng Open AI ang kumpanyang Hangang Weiss na espesyalista sa AI. Idinagdag ni Poitras, “Ayon sa aming impormasyon, maaaring pigilan ng bagong platform pangkaligtasan na ito ang paghack kung ito ay gagamitin sa mga nangungunang laboratoryo para sa pagtatasa ng mga modelo sa maagang yugto.” Binanggit na ang Open Shell ay nagbibigay-daan sa mga developer na “pormal na kumpirmahin na may sapat na karapatan ang agent na gawin lamang ang kanyang misyon, wala nang higit pa.” Dahil ito ay open-source, maaari itong “palawakin” upang gumana sa mga kompetitibong computing platform, kabilang ang mga platform ng ARM at Intel. Kasama rin ng platform ang hiwalay na layer ng kaligtasan na tinatawag na “Centri” na gumagana sa isang chip upang patuloy na magsaliksik sa aktibidad ng agent ng AI at kayang “agad na mag-interfere” kung subukan ng agent na lumampas sa kanyang layunin, ayon sa kumpanya, at kayang i-isolate ang anumang suspicious client sa loob ng ilang segundo. Pinatunayan ni Poitras na ang Open Shell ay nagkontrol sa mga kilos ng client, habang ang Centri ay nagmamasid sa suspicious na ugali at ina-enclose ito nang hiwalay. Ang kaganapan ng Hangang Weiss, na dulot ng isang koordinadong at ganap na independenteng cyberattack na isinagawa ng mga swarm ng mga agent ng AI nang walang anumang interbensyon ng tao, at nangyari mula Mayo hanggang Hulyo 2026, ay nagdulot ng mga alalahanin sa seguridad tungkol sa AI, at sinundan ng mga katulad na hindi legal na gawain na gumamit ng mga modelo ng Open AI, kabilang ang paghack sa isang website ng Department of Health ng Australia. Ipinakita rin ng Meta at Anthropic ang paghack sa kanilang mga sariling sistema ng AI sa ibang institusyon nang hiwalay. Ang kontrobersya tungkol sa kaligtasan ng AI ay nagdulot ng pagkakahati sa industriya, kung saan ang mga pangulo ng Anthropic at Open AI ay humihingi ng pagpapabagal sa bilis ng pag-unlad ng AI nang koordinado upang bigyan ng pagkakataon ang mga pagsisikap sa kaligtasan na makasabay. Sa kabilang banda, naniniwala ang iba, kabilang ang CEO ng NVIDIA na si Jensen Huang, na ang responsibilidad sa pagtiyak ng kaligtasan ng mga modelo ng AI bago ito ilabas ay nakasalalay sa bawat kumpanya nang hiwalay. Sa loob ng taunang teknikal na kumperensya ng Salesforce na ginanap sa simula ng buwan na ito, inilarawan ni Huang ang kaligtasan ng AI, kabilang ang panganib ng malware, bilang isang engineering problem na maaaring solusyunan ng mga developer ng software. (Dulo) R.S.R. / N.S.A.