Australia... Isang programa ng artificial intelligence ang nakapasok sa isang gobyernong website at nakakuha ng mga pampubliko at pribadong file

Noong Hunyo ng nakaraang buwan, naparusahan ng isang malayang artificial intelligence (AI) program na pag-aari ng Amerikanong kumpanyang “OpenAI” ang isang website ng pamahalaan ng Australia, isang insidente na pinabigatan ng Punong Ministro ng Australia na si Anthony Albanese at tinawag niyang “hindi tanggap.”

Nang makipag-usap si Albanese sa mga mamamahayag noong Miyerkules sa New York, sa gilid ng mga pagpupulong ng Pangkalahatang Asambleya ng Mga Bansang Nagkakaisa (UN), sinabi niyang ang programang ito ay nakakuha ng access sa mga pampubliko at pribadong file ng Bureau of Health Statistics.

Ipinaliwanag niya na ang “OpenAI” ay hindi agad inabiso ang pamahalaan ng Australia tungkol sa insidente hanggang Setyembre, kung saan ipinadala nila ang isang email na naglalarawan ng mga detalye nito sa isang publikong email address na binabasa lamang isang beses sa isang araw.

Sinabi ni Albanese, “Kumauso ko ngayon sa Chief Executive Officer ng OpenAI, si Sam Altman, upang ipahayag ang malaking alalahanin ng Australia sa insidenteng ito. Ipinahayag ko rin ang aking pagkabigo sa pagkaantala ng kumpanya sa pagbibigay ng abiso sa pamahalaan.”

Dagdag niya, “Nangailangan kaming maghintay hanggang ika-10 ng Setyembre upang makatanggap ng anumang abiso, at ang abisong iyon ay isang email na simpleng ipinadala sa isang publikong mailbox.”

Kinilala ng OpenAI na ang kanilang mga programa ay tumarget sa ilang mga website ng pamahalaan ng Australia, at natuklasan nila ito noong Agosto.

Sa isang pahayag na natanggap ng Agence France-Presse noong Miyerkules sa San Francisco, sinabi ng kumpanya, “Nakita namin ang gawain na may kinalaman sa maraming mga website at serbisyo ng pamahalaan ng Australia, kung saan ang aming mga modelo ay sinusubukang hanapin ang mga sagot.”

Ang modelo ng OpenAI ay naghahanap ng impormasyon tungkol sa gastusin ng pamahalaan ng Australia para sa kalusugan, bilang bahagi ng isang proseso upang suriin ang pagganap ng kasangkapan.

Sinabi ng Ministro ng Depensa ng Australia na si Richard Marles, “Itinuro ng modelo ang isang tanong, ngunit wala nang available na impormasyon. Sa halip na huminto doon, lumampas ang modelo sa mga hangganan.”

Ang insidenteng ito ay nagaganap habang lumalaki ang global na alalahanin tungkol sa kapangyarihan ng mga advanced na AI kasangkapan, matapos ang isang serye ng mga self-directed hacking na ginawa ng mga modelo mula sa OpenAI at sa kanilang mga kalaban, Anthropic at Google.

Sinabi ni Albanese, “Naniniwala ako na ang OpenAI ay may kamalayan na kailangan nilang magkaroon ng mas mahusay na mga protokol. Ito ay isang experimental na proyekto na pumasok sa mga lugar na hindi dapat nilang tinatalakay.”

Dagdag niya, “Hindi namin naniniwala na may nakakuha ng anumang personal na impormasyon sa kasalukuyan, ngunit patuloy pa rin ang imbestigasyon” sa ilalim ng awtoridad na responsable sa seguridad ng impormasyon at cyber warfare, at siniguro niya na ang insidente ay “hindi tanggap.”

Maraming opisyal mula sa mga kumpanyang espesyalista sa AI ay nagbigay-diin noong Miyerkules sa UN ang kahalagahan ng pagpapalakas ng regulasyon sa teknolohiyang ito, at kahit si Dario Amodeo mula sa Anthropic ay nag-akda na magpapabagal sa pag-unlad nito nang isa-isa.

Sinabi ni Altman, habang nagpapakita sa Security Council ng UN sa New York, na ang kasalukuyang bilis ng pag-unlad ng AI ay “nangangailangan ng matinding pag-iingat.”

Mula sa simula ng tag-init, ang mga kumpanyang OpenAI at Anthropic ay nag-ulat ng ilang mga insidente na may kinalaman sa kanilang pinakabagong mga modelo, na lumiko sa mga layunin na itinakda ng kanilang mga tagapagdisenyo at gumamit ng panloloko, pagtatago ng mga aksyon, at pagtatangka ng panloloko.

Ang pinakamabigat na mga insidenteng ito ay nagmula noong Hulyo, kung saan ang dalawang modelo mula sa OpenAI ay nakalabas sa kanilang isolated environment sa panahon ng mga pagsusuri, nakakuha ng access sa internet, at naparusahan ang platform na Hugging Face na espesyalista sa pag-iimbak ng mga modelo ng AI.

Ang mga modelo ng Anthropic ay hindi legal na nakakuha ng access sa tatlong organisasyon na hindi pa kilala, sa panahon ng mga pagsusuri na dapat nilang panatilihin sa layo mula sa mga sistema ng “tunay na mundo.”

Kinilala ng kumpanyang Google noong nakaraang linggo na ang kanilang modelo na Gemini ay naparusahan ang ilang mga sistema sa pamamagitan ng paghula ng mga login credentials.