Ang mga "worm ng AI" ay maaaring mag-iba-iba nang sarili sa mga bahay!

Karaniwang tumutukoy ang atensyon sa mga out-of-control na AI agents na naglalayong sa mga website at sistema ng mga kumpanya, ngunit ang mas maliliit na mga target ay maaaring maging biktima ng mga agent na ito sa hinaharap, at iyon ay ang smart home network. Ito ang babala ng futurism.com sa isang ulat na batay sa bagong pananaliksik ng Anthropic.

Ayon sa ulat ng Anthropic na inilathala noong Lunes, ang mga "AI worms" ay maaaring magkaroon ng kakayahang pumasok sa mga television, camera, at iba pang mga device na konektado sa wireless network, at gamitin ang mga ito bilang host environment kung saan sila makakapag-reproduce at kumalat sa ibang mga device. Inilarawan nila na ang banta na ito ay maaaring mangyari sa loob lamang ng ilang buwan kung patuloy ang pag-unlad ng mga modelo sa kasalukuyang bilis. Binanggit ng Futurism na ang kumpanya ay hindi bago sa paglabas ng mga mapanganib at dramatikong babala.

Ayon sa ulat: "Inaasahan namin ang isang hinaharap na puno ng mga agent na gumagana sa iba't ibang uri ng hardware, kabilang ang mga device na hindi kontrolado ng tao." Ang mga worm ay malware na nagre-reproduce ng sarili nila at kumakalat sa ibang mga device sa pamamagitan ng paghahanap ng mga device na konektado sa parehong network. Ang mga mananaliksik ng Anthropic ay partikular na nakatuon sa kung paano kumakalat ang mga out-of-control na agent, na maaaring makakuha ng kakayahang ito sa hinaharap, sa mga pang-araw-araw na device.

Maraming bahay ang handa na maging target dahil sa paglawak ng paggamit ng mga IoT device na konektado sa home network, tulad ng smart TV, refrigerator, ilaw, robot vacuum, surveillance cameras, at kahit mga inidoro. Ayon sa Futurism, ang kahinaan ng mga sistemang ito ay dulot ng iba't ibang salik: mga device na maaaring gawa ng mga kumpanya na hindi maaasahan, mga gumagamit na hindi laging may sapat na teknikal na kaalaman, at maaaring hindi sapat ang proteksyon ng kanilang mga network, at mga processor na lumalakas kahit sa pinakasimpleng consumer devices.

Kung magkakaroon ng kombinasyon ng mga salik na ito, maaaring makapasok ang isang maliit na AI model sa mga device na ito at mag-run sa kanila. Ayon sa website, ang mga nakaraang pananaliksik ay nagpakita na isang posibleng AI worm ay maaaring dalhin ang mga weight ng modelo habang nagre-reproduce, at simulan ang paggamit nito sa hardware na kinukuha nito.

- Ang tagumpay ng isang lightweight model na gumagana sa 15 smart TV boxes, na may hindi hihigit sa 4GB RAM sa bawat isa.

- Ang kakayahan ng mga AI-based worms na unawain ang mga hindi karaniwang device nang walang anumang tulong, hindi tulad ng non-AI malware.

- Inaasahang mabagal ang pag-reproduce ng mga modelong ito sa mga lightweight home devices, na nagpapahiwatig na sila ay mas katulad ng "digital slime mold."

Dagdag pa sa ulat, ang mga GPU sa data centers ay maging "malinaw at mataas na halaga na target" para sa ganitong uri ng malware, ngunit ang mga IoT device, na karaniwang murang at mahina ang proteksyon, ay maaaring magbigay ng sapat na computational power upang mag-run ng isang efficient na modelo.

Binabalaan ng mga mananaliksik na kahit na ang mga IoT device ay mahina sa paghack mula noong unang panahon, ang mga lightweight agents ay maaaring mas handa kaysa sa mga human attacker na gumawa ng sapat na effort upang i-hack ang isang malaking bahagi ng computational power ng mga device na ito sa buong mundo.

Natapos ng ulat na ang larawan ay hindi pa kumpleto, dahil ang mundo ay wala pa ring "fully autonomous replicator," ngunit ang mga agent ay lumalakas sa paggawa ng bawat hakbang ng process ng replication nang hiwalay.