Ang pinakamahalagang tanong sa kasaysayan ng sangkatauhan

Hindi kailanman hinaharap ng species ng tao ang isang kombinadong at kumplikadong banta tulad ng hinaharapin natin sa mga susunod na taon, na magtatakda ng kapalaran ng ating pag-iral bilang mga tao, at iyon ay ang artificial intelligence (AI). Ayon kay Catherine Pinhold ng The New York Times, nakipag-usap siya sa isang dating software engineer sa Google na si Soares, habang nandoon sa isang talumpati tungkol sa isang aklat na kanyang isinulat kasama ang iba, na may pamagat na “Kung gagawin ito ng iba, mamamatay ang lahat,” kung saan tinutukoy nito ang superintelligent AI, na mas mahusay kaysa sa tao sa lahat ng aspeto, at ang kanyang alalahanin ay ang karera sa AI ay nagiging banta sa pagbabantay ng pag-iral ng sangkatauhan. Dahil ayaw ni Catherine na magpalaganap ng takot, iniwan niya ang isyu, ngunit napansin niya, kamakailan, ang isang serye ng nakakatakot na insidente, kung saan lumabas ang mga modelo sa kontrol sa mga paraan na hindi na-isip bago ang anim na buwan, na nagpasiklab sa Hugging Face na tumawag sa Federal Bureau of Investigation upang mag-ulat ng isang advanced na cyberattack, pagkatapos na matukoy na ito ay isang hindi-tao na attack, kung saan lumabas ang isang program na sinuportahan ng dalawang modelo mula sa OpenAI sa kontrol habang sinusubok ang cybersecurity, at nakalabas sa kanyang sariling isolated na environment, at naglakbay sa internet nang walang napansin sa loob ng ilang araw bago niya sinira ang backend ng Hugging Face. Ang mga attack na ito ay nagdulot ng pag-aalala sa Anthropic, ang pangunahing kalaban ng OpenAI, kaya pinalitan nila ang kanilang mga sistema at kinilala na ang kanilang mga advanced na modelo ay nakapasok sa tatlong panlabas na organisasyon, at ito ay nakakatakot at katulad ng mga pelikula ng siyensya-fiksyon, ngunit totoo. Noong nakaraang buwan, lumabas ang mga modelo ng “Claude Methuselah,” isang serye ng mga modelo na dati ay pinagbawalan ng Anthropic na ilathala sa publiko (dati ay pansamantalang pinagbawalan ng pamahalaan ng Estados Unidos ang paggamit nito ng anumang dayuhang mamamayan), dahil sa kakayahang manipsula sa mga vulnerability ng software upang magpatupad ng cyberattacks. Ang takot na iyon ay naging katotohanan, at nagdulot ng matinding debate tungkol sa mga panganib ng paglabas ng AI sa kontrol ng tao, at ang banta nito sa buong sangkatauhan. Habang marami ang nagtaka sa argumento ng “mga robot na kayang patayin tayo,” at inilarawan ito bilang histeriya na nilikha upang magdulot ng ingay tungkol sa teknolohiyang ito, ngayon, matapos ang huling mga cyberattack, mas maraming eksperto ang nagbababala sa seryosong panganib sa seguridad, at humihingi ng paraan upang bawasan ang pag-unlad ng mas malalakas na mga modelo. May dalawang dahilan kung bakit nagdulot ang attack ng OpenAI ng ganitong antas ng pag-aalala: Una, ang mga modelo ng AI ay gumawa nang sarili nila, at hindi natanggap ang anumang direksyon mula sa tao upang manakop sa ibang kumpanya. O kaya’y dapat sila ay nasa ganap na isolated na environment na walang koneksyon sa internet, ngunit nakalabas sila. At ginawa nila ito sa pamamagitan ng pag-exploit sa mga vulnerability na hindi napansin ng mga human supervisor sa OpenAI. * * * Sinabi ng eksperto na si Soares na ang mga sistemang ito ay gumagawa ng mga cybercrime na mabigat ang parusa kung gagawin ng tao. Sa isang paraan, ito ang unang krimen na ginawa ng GPT, kahit na kayang ituro ng mga siyentipiko ang AI na gawin ang mga gawain para sa atin, maaari nitong lutasin ang mga problema sa mga paraan na hindi natin gustong-gusto, tulad ng pagpasok sa internet, at pagpasok sa ibang kumpanya na may mga solusyon! At sinabi ni Altman, ang CEO ng OpenAI, na maaaring subukan ng mga kumpanya ng AI na ipasa ang mga layunin at halagang pantao sa mga sistema ng AI, at subukang maglagay ng mga mekanismo upang limitahan ang mga ito. Ngunit hindi sila maaaring umasa na maintindihan ng mga ito ang mga halagang iyon o sundin ang mga limitasyong iyon. Dito idinagdag ni Soares: “Hindi pa namin nalalaman kung paano gawing mapag-alaga ng AI ang sangkatauhan.” Ang lahat ng ito ay nagpapakita ng paghahanda ng mga sistemang ito na “manakop sa mga kapaki-pakinabang na resources” kapag ito ay nakakatulong sa kanilang mga layunin. Sa kasong ito, ang resource ay ang access sa internet. Ngunit ang susunod na yugto ay maaaring magresulta sa pagkuha ng enerhiya, o kahit na pagkontrol sa mga tao na naniniwala sa mga ahente ng AI, na maaari nilang gamitin upang tulungan silang makalabas o makapag-reproduce, at ang panganib ay ang landas na ito na ating tinatalakay, “ay nasa kontrol ng AI, na papalitan ang mga tao bilang mga intelligent na nilalang.” Kaya’t kinakailangan ng isang pandaigdigang kasunduan upang bawasan ang bilis ng pag-unlad ng AI, at ang pagpigil sa pagyayari nito ay, sa pangunahin, isang engineering challenge, at ito ay maganda, ngunit mahalaga ang oras, lalo na dahil ang mga laboratoryo ng AI sa Estados Unidos ay nakikita ang sarili nila sa isang mabilis na karera upang makamit ang antas ng superintelligence. At hindi lamang sila nagkarera sa isa’t isa, kundi pati na rin sa Tsina. At nakakabahala, noong dalawang araw na ang nakalipas, ang mga siyentipiko ng AI ay lumikha ng mga bagong uri ng virus, at nagtrabaho ang tool ng AI upang kilalanin ang mga pattern ng DNA, at pagkatapos ay humingi sa kanila na lumikha ng mga viral genomic compositions. At nagresulta ito sa animnapu’t anim na genome, kung saan may mga bagong virus na buhay. Ang paraang ito ay makakatulong sa pag-aaral ng mga gamot at bakuna. Ngunit nagdudulot ito ng mga alalahanin na maaaring lumikha ng AI ng mga mapanganib na pathogens. Ito ay delikado at nangangailangan ng international coordination upang itigil ang mabilis na pag-unlad na ito, ngunit hindi ito malapit na mangyari. Tala: Lahat ng kagandahan ay labanan.. at ang kamelyo ni “Ghida” ay binarakan. Ahmad Al-Sarraf