Anthropic: Maaaring simulan ng mga modelo ng AI ang pagkopya ng sarili nila sa malapit na panahon
Ang kumpanyang Anthropic ay nagkumpirma ng kakayahan ng mga maliit na modelo ng AI na kopyahin ang sarili nila sa mga device ng Internet of Things
Isinalin ng Qiyas mula sa الجريدة — Orihinal na pinagmulan
Ayon sa Anthropic, ang mga karanasan nila ay nagpapakita na ang mga maliit na modelo ng artificial intelligence (AI) ay maaaring sapat na upang kopyahin ang sarili sa loob ng ilang buwan sa mga komersyal na kagamitan sa Internet of Things (IoT), tulad ng mga matalinong oven at mga telebisyon na may Android na sistema mula sa mga hindi kilalang tatak.
Sa kanilang mga eksperimento, sinuri ng Anthropic kung kaya ng mga modelo ng AI na tukuyin ang mga kagamitan na may mga kalakasan sa seguridad at kopyahin ang sarili sa mga kagamitang iyon, at patuloy na kumalat nang walang interbensyon ng tao.
Natuklasan ng kumpanya na ang mga maliit na modelo na may mas mababa sa 30 bilyong parameter ay kayang tapusin ang maraming hakbang na kinakailangan para sa proseso ng self-replication. Gayunpaman, napansin ng kumpanya na ang mga modelong ito ng AI ay nahihirapan na tapusin ang buong sunod-sunod na proseso mula simula hanggang wakas.
Sa kanilang mga pinasimpleng pagsusuri, kung saan inalis ang ilang mga hakbang sa seguridad, natuklasan ng Anthropic na ang GLM-5.2 model at ang mga mas malakas na modelo ay kayang ganap na kopyahin ang sarili mula simula hanggang wakas.
Binabalaan ng Anthropic na mahirap pigilan ang mga modelo na nagkukopya ng sarili dahil walang sentralisadong punto ng kontrol upang patayin ang mga ito, at hindi tulad ng tradisyonal na malware, kayang tukuyin ng mga ito ang mga hindi kilalang kagamitan at itarget ang mga processor ng mga data center.
Nakatuon ang kumpanya sa kanilang pananaliksik sa mga kagamitan sa IoT tulad ng mga telebisyon na may Android na sistema, mga matalinong kagamitan sa bahay, at iba pang mga kagamitang konektado sa internet, dahil karaniwang hindi sapat ang proteksyon ng mga kagamitang ito.
Binabalaan din ng nangungunang kumpanya sa larangan ng AI na kung patuloy na magiging maayos ang mga maliit na modelo sa parehong hindi karaniwang bilis, kayang magkopya ng sarili nang malaya hanggang sa katapusan ng taong ito, at susundan ito ng mga maliit na modelo na nakabase sa weights sa loob ng maikling panahon.
Ipinahiwatig din ng Anthropic na malamang na mabagal ang pagkopya ng mga sistemang ito ng AI, at nakadepende sa mga mapagkukunan ng pagkukompyut na malawak na available, at kulang sa sapat na seguridad. Dugdag pa nito na dapat palakasin ang mga sistema upang mas mahirap ang pagkalat ng mga ahente ng AI na ito.
