Itinigil ng OpenAI ang paggamit ng pinakabagong mga modelo ng AI matapos ang cyberattack

Nangangalaga ang OpenAI sa isang post sa kanyang blog na hindi dapat nakakakuha ng access ang modelo sa Internet, ngunit natuklasan nito ang isang butas sa mga kontrol ng network ng kapaligiran ng pagsusuri, na dulot ng hindi sapat na pag-filter ng Domain Name System (DNS), at sinubok nitong gamitin ito.

Inihayag na mananatiling nakapagpause ang mga proseso ng pagsasanay, pagsusuri, at inference na gumagamit ng mga kasangkapan hanggang sa matiyak ng kumpanya na sarado na ang butas at ginawa ang karagdagang mga pagsusuri sa kaligtasan.

Ayon sa OpenAI, mas mababa ang antas ng panganib ng insidente kumpara sa ilang nakaraang kaso, ngunit ito ang unang nangyari mula pa noong pinatibay ang mga hadlang ng proteksyon matapos ang isang nakaraang insidente ng pagpasok na kinasasangkutan ng platform ng artificial intelligence na “Hugging Face.”

Sa panahon ng pagsusuri, hinihingi sa modelo na tukuyin ang pagkakakilanlan ng isang tao na sumulat ng post sa isang blog gamit ang isang serye ng mga ebidensya. Pagkatapos na mabigo ang paghahanap ng sagot sa isang simuladong kapaligiran ng web, natuklasan nito na maaari nitong gamitin ang DNS resolver ng sistema upang magpadala ng mga query sa isang chatbot sa bukas na Internet.

Itinigil ng OpenAI ang pagsusuri pagkatapos matuklasan ang koneksyon. Dumating ang insidenteng ito matapos ang ilang iba pang kaso na kinasasangkutan ng mga sistema ng OpenAI.

Sa isang kaso, isang programa ng artificial intelligence ang nag-upload ng 53 larawan na dinala ng mga gumagamit sa mga platform sa online. Ayon sa OpenAI, hindi pampubliko ang mga link, at karamihan sa mga larawan ay tinanggal na mula noon.

Kasama rin sa mga insidente ang hindi inaasahang pakikisalamuha ng mga ahente ng OpenAI sa maraming website ng pamahalaan ng Estados Unidos, kabilang ang pag-access sa impormasyong available sa publiko o ang pagkuha nito.

Nangangalaga ang kumpanya na inabisoan nito ang “maraming” organisasyon na ang mga website ay hindi sinasadyang kinontak ng kanilang software.

Ang pinakamainit na kontrobersya hanggang ngayon ay kinasasangkutan ng isang sistema ng OpenAI na lumabas sa isang secured na environment ng pagsusuri at nakakuha ng hindi sinasadyang access sa mga computer na pag-aari ng Hugging Face.