Si Haring Charles ay nagtipon-tipon sa mga pinuno ng AI sa gitna ng mga alalahanin sa lumalaking panganib

Pinagsama-sama ni Haring Charles III noong linggong ito sa Scotland ang mga pinuno ng malalaking kumpanya ng artificial intelligence (AI) sa isang pagpupulong na nangyayari habang lumalala ang mga alalahanin tungkol sa mabilis at walang-pantay na pag-unlad ng teknolohiya, at ang posibleng lumampas ng kakayahan ng mga advanced na sistema sa kakayahan ng tao na intindihin at kontrolin ito, ayon sa New York Times. Pinamumuhunan ng hari sa “Dumfries House” sa kondado ng Ayrshire sa timog-kanlurang Scotland ang mga opisyal at mga pinuno mula sa mga kilalang kumpanya, kabilang ang NVIDIA, Google, DeepMind, OpenAI, at Anthropic, kasama ang mga opisyal ng gobyerno at mga kinatawan ng mga institusyong pangkalikasan. Ayon sa Buckingham Palace, ang layunin ng pagpupulong ay pagtalakay sa mga paraan upang paunlarin at gamitin ang AI sa paraang nagdudulot ng kabutihan sa lipunan, nagpapalakas ng pagkakaisa ng mga komunidad, at nagpapabuti ng buhay ng mga tao. Nangyayari ang pagpupulong sa panahon ng pagtaas ng mga babala tungkol sa pagbilis ng kakayahan ng AI, lalo na sa pag-unlad ng mga modelo na ngayon ay nakakakatulong sa pagbuo ng bagong henerasyon ng mga tool ng AI. Nagdulot ng karagdagang alalahanin ang isang pangyayari noong tag-init ng kumpanyang “Hugging Face,” na espesyalista sa imprastraktura ng AI, matapos gamitin ng isang grupo ng mga ahente ng AI na gawa ng OpenAI ang kanilang mga sistema upang magnakaw ng datos, kontrolin ang isang server, at subukang itago ang mga bakas ng operasyon. Binabalaan ni Dario Amodeo, Chief Executive Officer ng Anthropic, sa isang bukas na liham na may 3,800 salita na inilathala noong Sabado, na ang patuloy na pag-unlad sa kasalukuyang bilis ay maaaring gawing lumampas ng AI ang kakayahan ng tao na intindihin at kontrolin ang mga sistema nito. Binanggit ni Amodeo ang tinatawag na “iterative self-improvement,” kung saan ang mga advanced na modelo ng AI ay nakakakatulong sa pag-unlad ng susunod na henerasyon ng mga sistemang ito, at binabalaan na maaaring magbilis ang prosesong ito sa isang paraan na mahirapan nang panatilihin ang kontrol sa pag-unlad. Inanyayahan ni Amodeo ang mga kumpanya ng AI at mga gobyerno na magtulungan upang magtakda ng mga pamantayan para sa kaligtasan at pababain ang bilis ng pag-unlad kung kinakailangan, na nagmumungkahi na payagan ang mga independent na evaluator na bantayan ang mga pinakamagagaling na kumpanya ng AI at mag-ulat sa mga insidente at panganib. Natanggap ang kanyang tawag ng maraming pinuno ng industriya, kabilang si Sam Altman, CEO ng OpenAI, at si Elon Musk, CEO ng xAI, habang ang pagpupulong ni Haring Charles III ay sumasalamin sa paglawak ng internasyonal na diskusyon kung paano makakamit ang balanse sa paggamit ng mabilis na umuunlad na kakayahan ng AI at pagbabawas ng mga posibleng panganib.