Naglalabas ang OpenAI ng mekanismo para sa pagsubaybay sa mga kilos ng artificial intelligence
Nagpahayag ang OpenAI noong Miyerkules na sisimulan nitong ilathala ang mga regular na ulat tungkol sa mga hindi inaasahan o hindi pinahihintulutang ugali ng artificial intelligence (AI), habang binababala rin nito na hindi pa nasosolusyunan ng industriya ang mga pangunahing hamon sa pag-aayos ng mga modelo upang tugma sa mga layunin, habang lumalakas ang mga sistema.
Inilabas ng kumpanya ang isang bagong balangkas para sa pagsubaybay, pagsisiyasat, at pagtuklas ng mga kaso ng hindi pagtutugma ng mga modelo ng AI, kasama ang anim na ulat tungkol sa mga hindi inaasahan o nakakabalisa na ugali na napansin sa mga modelo sa loob ng nakalipas na anim na buwan.
Kasama sa mga unang ulat ang mga kaso kung saan ang mga modelo ang gumagawa ng sarili nitong mga tagubilin sa mga buod ng mga gawain, nagtatago ng mga pagkakamali, at nag-aupload ng mga file sa internet upang gamitin bilang sanggunian, pati na rin ang pagbabahagi ng mga file sa pagitan ng mga kooperatibong ahente ng AI nang walang pahintulot.
Sinabi ng OpenAI na ang mga ulat ay naglalarawan ng mga indibidwal na kaso at hindi dapat ituring na ebidensya ng madalas na pagkakataon ng hindi pagtutugma sa mga modelo nito.
Dumating ang desisyong ito habang lumalaki ang alalahanin na ang mga pagsisikap sa kaligtasan ng AI ay nananatiling likod sa mabilis na takbo ng pag-unlad ng mga sistemang nagiging mas malakas at may mas malalim na kakayahan.
Binabalaan ng mga mananaliksik na habang lumalaki ang kalayaan ng mga sistemang ahente ng AI, maaari itong magkaroon ng mga ugaling lumalayo sa mga intensyon ng mga tagapagdisenyo nito at maging mahirang bantayan o kontrolin.
Kasama ng bagong balangkas ng kumpanya ang isang proseso na nagbibigay-daan sa mga empleyado na mag-ulat ng mga posibleng kaso ng hindi pagtutugma ng mga modelo, ang mga pagsisiyasat na isinasagawa ng mga koponan sa kaligtasan at pagtutugma, at isang sistema para sa pagtukoy sa mga kaso na nangangailangan ng pampublikong pagpapahayag.
