Pag-aaral ang nagbababala sa pagmumungkahi ng paggamit ng open-source artificial intelligence sa pagbuo ng mga biolohikal at kemikal na sandata - Sarmad
Isang pag-aaral pangkaligtasan ang nagbabala na ang pag-unlad ng artipisyal na intelihensya (AI), lalo na ang mga modelo na bukas ang pinagmulan (open-source), ay maaaring magpalabas sa mga masamang aktor ng daan upang makakuha ng impormasyon para sa pagbuo ng mga sandatang kemikal at biyolohikal.
Ayon sa ulat na isinagawa ng Crimson Flare Research Group, ang ilang komersyal na available na modelo ng AI ay maaaring baguhin upang alisin ang mga built-in na sistema ng proteksyon, na nagbibigay-daan sa kanila na sumagot sa mga tanong na tinatanggihan ng mga orihinal na modelo.
Babala ng mga eksperto sa cybersecurity na maaaring bawasan ng mga pag-unawang ito ang mga teknikal na hadlang para sa mga taong walang espesyal na kasanayan, dahil ang kaalaman na kinakailangan upang harapin ang mga napakalubhang mapanganib na materyales ay karaniwang limitado sa mga siyentipiko at espesyalista lamang.
Ang isa sa mga paraan na ginagamit upang iwasan ang mga limitasyon sa kaligtasan ng mga modelo ng AI ay hindi opisyal na tinatawag na “jailbreaking,” na naglalayong alisin ang mga bahagi ng modelo na responsable sa pagtanggi sa ilang mga kahilingan. Ayon sa ulat, maaaring gawin ang prosesong ito sa loob ng maikling panahon gamit ang mga online na tools at pangunahing kaalaman sa programming.
Hindi lamang sa pagmomodipikasyon ng mga modelo nakasalalay ang panganib; maaari ring makita ang mga pre-modipikadong kopya at i-download mula sa internet. Ayon sa Daily Mail, nakahanap sila ng ilang kopya na inilalarawan bilang “walang kontrol” mula sa mga modelo na available para sa paggamit sa loob lamang ng ilang minuto.
Tumutukoy ang ulat na ang ilang sa mga modelo ay nagbibigay lamang ng pangkalahatang impormasyon, habang ang iba ay maaaring magbigay ng mas detalyadong mga sagot, na nagpapataas ng mga alalahanin tungkol sa posibleng paggamit nito sa mapanganib na aktibidad.
Babala ng ulat na ang mga malalaking modelo ng wika (large language models) na bukas ang pinagmulan, makapangyarihan, at walang kontrol ay maaaring maging lumalaking banta sa nasyonal na seguridad, lalo na kapag maaari silang patakbuhin nang lokal nang hindi nangangailangan ng koneksyon sa mga server ng mga kumpanyang nagpapaunlad nito.
Iba ang mga modelong ito sa mga serbisyo ng AI na gumagana sa internet, dahil maaaring i-download ng gumagamit ang modelo at patakbuhin ito direkta sa kanilang kagamitan. Ayon sa mga mananaliksik, ginagawa nito ang pagsubaybay sa paggamit nito na mas mahirap, dahil hindi laging dadaan ang mga data at kahilingan sa mga external na server na maaaring subaybayan ng mga kumpanya o awtoridad.
Ayon sa ulat, kumakatawan ang pag-unawang ito sa isang mahalagang pagbabago kumpara sa mga nakaraang taon, noong limitado at bihira ang kakayahang pangkompyuter na kinakailangan upang patakbuhin ang mga advanced na modelo ng AI nang lokal.
Inaangkin ng mga mananaliksik na humigit-kumulang 87% ng mga tahanan ay nakakapagpatakda ng ilang sistema ng AI nang lokal gamit ang kasalukuyang kagamitan, na nangangahulugan na ang access sa mga teknolohiyang ito ay hindi na limitado sa malalaking institusyon o espesyalisadong mga laboratoryo.
Ayon kay Professor Alastair Hay, isang British toxicologist at eksperto sa chemical warfare, binabawasan ng AI ang antas ng teknikal na kasanayan na kinakailangan upang harapin ang mga mapanganib na materyales, dahil ang kaalaman na kinakailangan dito ay dati’y nagsisilbing hadlang para sa mga hindi espesyalista.
Dagdag ni Hay na ang pag-unlad ng mga cloud-based na laboratoryo at mga tool ng AI ay maaaring magbigay-daan sa pagpapasakop ng bahagi ng kaalaman at kasanayan na kinakailangan sa mga digital na sistema.
Pagkatapos suriin ang mga sagot na ibinigay ng isang modelo ng AI, sinabi ni Hay sa mga mananaliksik na ang impormasyong ibinigay ng modelo ay katulad ng isang “reseta,” at itinuturing niya ito na malapit na sa antas ng kaalaman na mayroon ang mga estudyante sa laboratoryo.
Gayunpaman, pinatutunayan ng ulat na ang panganik ng pagpapatupad ng isang teroristang atake gamit ang mga sandatang kemikal o biyolohikal ay nananatiling mababa, dahil sa malalaking teknikal at praktikal na hadlang na nauugnay sa produksyon at paghawak ng mga sandatang ito.
Ngunit babala ang mga mananaliksik na ang pag-unlad ng artificial intelligence (AI) ay maaaring baguhin ang kalikasan ng mga panganib na ito sa hinaharap, sa pamamagitan ng pagpapadali ng access sa kaalaman na noong nakaraan ay nangangailangan ng espesyalisadong siyentipikong pagsasanay, na nagdudulot ng mga bagong hamon sa mga pamahalaan at mga kumpanya ng teknolohiya upang pigilan ang maling paggamit ng mga modelong ito.
