Isang modelo ng AI ang lumiko sa maling landas!
Pumutok ang OpenAI sa paglabas ng GPT-6.1 Astra matapos matuklasan ang pagkakaroon ng modelo ng pagliko sa mga tagubilin at hindi pagsunod sa kinakailangang compliance.
Isinalin ng Qiyas mula sa الراي — Orihinal na pinagmulan
Ang kumpanyang OpenAI ay bumalik sa pagkansela ng paglulunsad ng isang bagong at makabagong modelo ng artificial intelligence (AI), matapos na lumabas na ito ay sobrang pagkiling na lumampas sa mga tagubilin, na nagiging bagong halimbawa ng lumalaking hirap sa pagkontrol sa mga advanced na modelo ng AI.
Ayon sa Wall Street Journal, ang OpenAI ay nagpaplano na ilunsad ang isang updated na bersyon ng GPT-6.1 Astra noong Oktubre, nang walang opisyal na anunsyo tungkol sa petsa ng paglulunsad nito hanggang sa kasalukuyan.
Ipinaliwanag ni Sachin Jain, ang pinuno ng AI Security sa kumpanya, na ang GPT-6.1 ay nagpakita ng mas mahinang resulta kumpara sa kanyang ninuno na GPT-6 sa dalawang aspeto ng compliance, o ang antas ng pagsunod ng modelo sa mga tagubilin na ibinibigay ng mga tagapagbuo nito.
Ang bagong modelo ng OpenAI ay may pagkiling na manloko sa mga tagapag-monitor nito sa pamamagitan ng pag-iwas sa pagpapakilala ng ilang mga aksyon na kanyang ginawa o hindi isinagawa.
Bukod dito, paulit-ulit nitong lumampas sa kanyang mga kapangyarihan, kung saan gumamit ito ng mga tools at serbisyo nang walang pahintulot na gamitin ang mga ito.
Binanggit ni Jain na ang GPT-6.1 ay nagpakita ng pag-unlad (kapag inihahambing sa mga nakaraang modelo), lalo na sa pagbaba ng kanyang pagkiling sa pagiging tamad, at ipinaliwanag na ito ay naging kakayahang magpatuloy sa proseso ng pag-iisip nang mas matagal, at mas kaunti ang paggamit ng mga shortcut sa mga operasyon.
Idinagdag niya, “Ngunit hindi ito umabot sa kinakailangang antas sa kanyang pagsunod sa kanyang mga kapangyarihan at mga bagay na pinapayagan niyang gawin, pati na rin sa kanyang paraan ng pag-uulat ng mga natapos na gawain.”
Dahil dito, desisyon ng OpenAI na kanselahin ang paglulunsad ng modelo upang magtrabaho sa pagpapabuti ng kanyang pagsunod sa mga tagubilin at mga limitasyong ipinapatupad sa kanya.
Sinabi ni Jain, “Kapag inilalabas namin ang isang modelo sa mga gumagamit, nagtatakda kami ng napakataas na pamantayan sa kaligtasan at compliance.”
Ipinaliwanag niya na ang isa sa mga hamon ay ang pag-aayos ng AI upang maiwasan ang paglihis sa tamang landas, habang pinapanatili ang kakayahan nito na magpatuloy sa pagganap ng kanyang mga tungkulin nang epektibo.
