Pagbitiw ng isang mananaliksik mula sa Anthropic: Nagpapakilala ng Kontrobersya sa Mga Panganib ng Superintelligence; Pagtatapos sa 2030

Isang dating mananaliksik mula sa mga kumpanyang Anthropic at OpenAI ang nagdulot ng bagong alitan tungkol sa mga panganib ng advanced na artificial intelligence (AI) matapos siyang mag-announce ng kanyang pagkakaalis, habang binabalaan siya sa isang talipangan sa pagpapaunlad ng mga sistema ng superintelligence na maaaring magdulot ng seryosong mga existential na panganib.

Ayon sa mga Amerikanong at Britanikong midya, sinabi ni Jacob Cohnson, na nagtrabaho sa loob ng tatlong nakaraang taon sa mga pananaliksik tungkol sa pre-training sa dalawang kumpanya, na sila’y nagtatalipangan sa pagbuo ng mga sistema na kayang pagbutihin ang sarili nila, at itinuturing niya na hindi sapat ang kasalukuyang mga patakaran sa kaligtasan upang makasabay sa bilis ng pag-unlad. Dagdag pa niya na may mga taong nasa larangan na naniniwala nang seryoso na ang mga susunod na henerasyon ng mga sistema ay maaaring maging banta sa sangkatauhan hanggang sa dulo ng kasalukuyang dekada.

Dumating ang suporta sa kanying babala kay Evan Hubinger, ang pinuno ng pananaliksik sa alignment sa Anthropic, na nagsabi na ang kanyang personal na taya sa posibilidad na magdulot ang AI ng isang existential na kalamidad sa susunod na dekada ay higit sa 10%, habang inihahayag na wala pang kumpletong solusyon sa problema ng pag-aayos ng superintelligence sa mga interes ng tao.