'Anthropic' nagbababala: Maaaring simulan ng mga modelo ng AI ang pagkopya ng sarili nila sa malapit na hinaharap
Nagbabala ang kumpanyang Anthropic tungkol sa kakayahan ng mga maliit na modelo ng AI na kopyahin ang sarili nila sa mga IoT devices nang walang interbensyon ng tao.
Isinalin ng Qiyas mula sa الراي — Orihinal na pinagmulan
Ayon sa kumpanyang Anthropic, ang mga karanasan nito ay nagpapahiwatig na ang mga maliit na modelo ng artificial intelligence (AI) ay maaaring sapat na upang kopyahin ang sarili sa loob ng ilang buwan sa mga komersyal na kagamitan sa Internet of Things (IoT) tulad ng mga matalinong oven at mga television na gumagamit ng Android mula sa mga hindi kilalang brand.
Sinuri ng Anthropic sa kanyang mga eksperimento kung kaya ng mga modelo ng AI na tukuyin ang mga kagamitan na may mga security vulnerability at kopyahin ang sarili sa mga kagamitang iyon, at patuloy na kumalat nang walang interbensyon ng tao. Natuklasan ng kumpanya na ang mga maliit na modelo na may higit sa 30 bilyong parameter ay kayang tapusin ang maraming hakbang na kinakailangan para sa proseso ng self-replication. Gayunpaman, napansin ng kumpanya na ang mga modelong AI na ito ay nahihirapan na tapusin ang buong sekwensya mula simula hanggang wakas.
Sa mga simpleng pagsusuri nito, kung saan inalis ang ilang mga hakbang sa seguridad, natuklasan ng Anthropic na ang modelo na GLM-5.2 at ang mga mas malakas na modelo ay kayang mag-self-replicate nang buo mula simula hanggang wakas.
Binabalaan ng Anthropic na mahihirapang pigilan ang mga modelo na nagre-replicate ng sarili dahil walang sentralisadong punto ng kontrol upang patayin ang mga ito. Bukod dito, sa kabaligtaran ng tradisyonal na malware, kayang tukuyin ng mga ito ang mga hindi kilalang kagamitan at itarget ang mga processor ng mga data center.
Nakatuon ang kumpanya sa kanyang pananaliksik sa mga kagamitan sa IoT tulad ng mga television na gumagamit ng Android, mga matalinong kagamitan sa bahay, at iba pang mga kagamitang konektado sa internet, dahil karaniwang hindi sapat ang proteksyon sa mga kagamitang ito.
Binabalaan din ng nangungunang kumpanya sa AI na kung patuloy na magiging maayos ang pag-unlad ng mga maliit na modelo sa parehong hindi karaniwang bilis, kayang mag-replicate ng sarili nang malaya hanggang sa katapusan ng taong ito, at susundan ito ng mga maliit na modelo ng pagre-replicate na nakabase sa mga weights sa loob ng maikling panahon.
Ipinahiwatig din ng Anthropic na malamang na mabagal ang pagre-replicate ng mga sistemang AI na ito, at magagamit ang mga mapagkukunan ng pagkukompyut na malawak na available, at may kakulangan sa sapat na seguridad.
