Bakit natatakot ang mga gumagawa ng AI sa pagwawakas ng mundo? - Sarmad

Nagdulot ng alalahanin ang mga mananaliksik sa artificial intelligence (AI) sa buong mundo noong linggong ito matapos nilang pampublikong kilalanin ang posibilidad na maaaring magdulot ang kanilang mga inobasyon sa pagwawakas ng buhay ng tao sa susunod na dekada.

Lumalaki ang posibilidad na ito habang umuunlad at nagkakaugnay-ugnay ang mga sistema ng computer, kasabay ng mga alalahanin na maaaring maging sobrang matalino ang AI at magdulot ng pagkasira ng sibilisasyon.

Tinatawag ng mga eksperto ang posibilidad na ito bilang “p(doom),” na tumutukoy sa probabilidad na ang paglikha ng isang advanced na sistema ay magdudulot ng pagkamatay ng tao o pagkawala ng kontrol nito sa mundo.

Nag-resign si Jacob Cohnson, isang eksperto sa kaligtasan ng AI, mula sa malaking kumpanyang Anthropic bilang protesta sa kanyang paniniwala na kulang ang pamamahala sa mga panganib. Sinabi niya sa platform na “X”: “Nagkakaisa sila sa pagtakbo patungo sa superintelligence na nagpapabuti sa sarili, at pinagdedebatehan ang ating mga buhay. Naniniwala ang mga nagbuo ng AI na talagang maaari silang patayin ang lahat natin sa dulo ng dekada. Hindi ito marketing gimmick; naririnig ko ang mga taong ito mismo na nagpapahayag ng kanilang takot nang mag-isa.”

Paano maaaring magdulot ng pagwawakas ng buhay ng tao ang AI?

Una: Digmaang Biyolohikal

Kung kontrolin nito ang mga awtomatikong laboratoryo, maaari nitong disenyo ang mga sobrang nakakahawa at nakamamatay na virus gamit ang ating DNA, o maaari nitong manloko sa atin upang gawin at ikalat natin ang mga ito.

Maaaring magkaroon ng virus na katulad ng COVID-19 ngunit mas nakamamatay, mabilis kumalat, at nananatiling hindi napapansin sa loob ng mga araw, at mahirap pigilan. Ito ay isang napaka-maalalang senaryo, dahil ginagamit na ng AI sa sektor ng medisina upang umunlad ang mga gamot, at marami itong alam tungkol sa ating katawan at mga kahinaan.

Pangalawa: Imprastraktura

Maaari nitong sirain ang mga network ng kuryente, transportasyon, komunikasyon, at mga pamilihan, na magbabalik sa atin sa Panahong Bato.

Hindi gagana ang mga ATM, mananatiling madilim ang mga ilaw, at hindi makakatakas sa kalituhan. Maaari ring gamitin ng AI ang ating kasakiman upang matupad ang kanyang misyon, nagpapakita bilang tao upang magtrabaho ng mga taong walang alam na gumagawa ng mga aksyon ng pagkasira.

Pangatlo: Opsyon sa Nuclear

Ito ay isang lumang takot na ipinapakita ng mga pelikula tulad ng War Games at The Terminator, kung saan ang pokus ay isang AI na may hangarin ng pagbabanta na nagpapalaya ng pagkasira ng nuclear.

Sa mga laro ng digmaan na isinagawa ng King’s College London noong taong ito, ginamit ng AI ang mga tactical nuclear weapons sa 95% ng mga round, at tatlong kalahati nito ay umabot sa mga strategic nuclear threats. Ang hukbo ay espesyal na vulnerable dahil sa malawakang paggamit ng AI sa drones, komunikasyon, at satellites.

Pang-apat: Pagkain at Tubig

Maaari nitong gutumin tayo hanggang sa sumuko, sa pamamagitan ng pagpuputol sa mga global na supply chain, mga network ng tubig, produksyon ng pagkain, at mga sistema ng agrikultura.

Maaari nitong kontrolin ang network ng enerhiya at mga raw materials upang suportahan ang kanyang paglago, at maghintay lamang dahil ang oras ay nasa kanyang panig.

Pang-lima: Deepfake

Maaari nitong targetin ang ating isipan muna sa pamamagitan ng misinformation at psychological manipulation, na nagpapababa ng tiwala sa mga institusyon at katotohanan, na nagdudulot ng mga gulo at alitan, at nagpapahirap sa ating pagharap sa mga panganib sa klima, biyolohikal, at teknolohikal.

Pang-anim: Pagpatay sa Pamamagitan ng Pagkakamali

May tunay na posibilidad na magdulot ang AI ng pagwawakas ng buhay ng tao dahil sa kakulangan sa kahusayan, hindi sa sinasadyang layunin.

Sinabi ni Gary Rivlin, may-akda ng aklat na “The AI Valley”: “Nag-aalala ako na kulang ang AI sa common sense, kaya halimbawa, pinuputol nito ang lahat ng tubig dahil hindi niya nauunawaan kung ano ang nauunawaan ng tao. Ang mga bagay na ito ay alam ang lahat ng bagay ngunit walang nauunawaan.”

Ano ang mga probabilidad?

Isang paraan upang mapanatili ang kaligtasan ng tao ay ang paglalagay ng mga emergency stop switches o mga proteksyon na kayang pigilan ang mga AI systems na lumabas sa kontrol. Ngunit ang mga nangungunang kumpanya ng AI ay nakakaranas ng lumalaking presyon mula sa mga shareholder, investor, at mga direktor upang bilisan ang pag-unlad.

Naglagay ang eksperto sa kaligtasan ng artificial intelligence na si Roman Yampolski ng posibilidad sa 99.99%, habang naniniwala si Yann LeCun na anumang taya ay nakabase lamang sa hula, ngunit ipinagtatanggol niya na ang p(doom) ay “mas mababa kaysa sa posibilidad ng paggamit ng nuclear weapons.” Magkakaiba ang mga hula: si Elon Musk ay nagtatakda nito sa 20%, ang CEO ng Anthropic na si Dario Amodey sa 10-25%, at si Geoffrey Hinton sa 10-20%. May mga magnanakaw ng teknolohiya na nagtayo ng mga ilalim-lupa na shelter bilang paghahanda sa ganitong uri ng panganib, ngunit babala ang mga eksperto na ito’y walang saysay kung ang AI ay susubukang patayin ang sangkatauhan.