Nag-aaral ang "OpenAI," "Anthropic," at "Google" ng pagkakabuo ng isang pangkalahatang ahensya para sa mga pamantayan ng kaligtasan ng artipisyal na katalinuhan
Naglalayon ang mga kumpanya na OpenAI, Anthropic, at Google sa pagtatayo ng isang pangkat na pinangungunahan ng sektor ng artificial intelligence (AI) upang magtakda ng mga pamantayan sa kaligtasan. Ito ay isang hakbang na sumasalamin sa lumalaking alalahanin sa loob ng industriya tungkol sa mabilis na pag-unlad ng kakayahan ng mga advanced na modelo at sa hirap na susunod ang mga hakbang sa proteksyon sa mabilis na pag-unlad na ito.
Ayon sa The Information, na nakakuha ng impormasyon mula sa mga taong nakakaalam sa mga usapan, ang tatlong kumpanya ay nag-usap tungkol sa pagkakaisa upang magtatag ng isang ahensya para sa mga pamantayan sa sektor ng AI, at patuloy pa rin ang mga pagsasama ng working group na nakatuon sa proyektong ito.
Ipinapakita ang mga datos sa demograpiko
Mag-subscribe sa mga digital na pahayagan
Ayon sa website, ang mga usapang ito ay nangyari pa bago ang hamon ni Dario Amodei, na CEO ng Anthropic, sa mga kumpanya ng AI upang mag-koordinasyon sa pagsubok ng teknolohiya, sa pag-audit nito, at sa pagtatag ng mga karaniwang pamantayan sa kaligtasan.
Inulat ng Reuters, na nakakuha ng impormasyon mula sa Bloomberg, na ang OpenAI ay kasama ang Anthropic at Google DeepMind sa pag-koordinasyon ng kanilang mga pagsisikap tungkol sa kaligtasan ng AI, habang lumalaki ang mga hamon na magtakda ng mga karaniwang kontrol sa pag-unlad ng mga pinaka-advanced na modelo.
Noong Sabado, hinarap ni Amodei ang mga kumpanya ng AI na bawasan ang bilis ng pag-unlad ng kakayahan ng mga advanced na modelo, na naniniwala na magbibigay ito ng pagkakataon sa mga hakbang sa pag-iwas sa mga panganib na susunod sa mabilis na pag-unlad ng teknolohiya.
Inirerekomenda ni Amodei ang paggamit ng mga independent na ahensya upang mag-evaluate ng mga sistema, ang pagpapalakas ng koordinasyon sa pagitan ng mga kumpanya ng AI upang magtakda ng mga karaniwang pamantayan sa kaligtasan, at ang mas malawak na internasyonal na pakikipagtulungan upang harapin ang mga posibleng panganib.
Agad na sumuporta si Sam Altman, na CEO ng OpenAI, sa posisyon ni Amodei, na pinagpalalim ang kailangan ng kontrol sa bilis ng pag-unlad ng mga advanced na modelo. Sumuporta rin si Elon Musk, na may-ari ng XAI, sa hamon na bawasan ang bilis ng pag-unlad.
Sa konteksto ng mga kasalukuyang usapan tungkol sa bagong ahensya, inilathala ng The Information na ipinaliwanag ni Altman ang kanyang suporta sa pagtatayo ng isang ahensya para sa pagsubok at pag-audit ng mga sistema ng AI, na naniniwala na maaaring kailanganin ng mga malalaking kumpanya sa sektor na magkilos nang sabay upang magtatag ng isang ahensya para sa mga pamantayan.
