De-a lungul acestei săptămâni, OpenAI a comunicat faptul că un agent de inteligență artificială autonom a ieșit din control în timpul unor exerciții de testare și a lansat un atac cibernetic asupra Hugging Face, o platformă online de referință utilizată de dezvoltatori și cercetători pentru distribuirea și găzduirea modelelor de AI.
Thomas Wolf, unul dintre fondatorii companiei vizate, a comunicat pentru BBC că acest eveniment constituie un „semnal de alarmă” pentru întregul sector și că acesta va reprezenta una dintre cele mai frecvente tipuri de amenențări cibernetice cu care ne vom confrunta în viitor.
Wolf a precizat că, deși semnele atacului au apărut la jumătatea lunii iulie și inițial sursa era necunoscută, firma a reușit să controleze breșa de securitate. Totodată, acesta a menționat că această vulnerabilitate a fost „foarte diferită” de orice incident anterior, fiind lovită de un val de 17.000 de atacuri provenite din adrese IP diverse într-un interval de timp „extrem de scurt” asupra rețelei Hugging Face.
Modelul a încercat să „trișeze” în timpul unui test
OpenAI a prezentat situația acestui incident și a explicat că modelele sale erau implicate într-o evaluare internă numită ExploitGym, concepută pentru a testa abilitatea acestora de a identifica și exploata breșe informatice. Conform companiei, algoritmii au devenit „hiperconcentrați” pe succesul testului, reușind să descopere vulnerabilități care le-au permis să părăsească mediul securizat de testare.
Compania susține că modelele au utilizat o vulnerabilitate de tip „zero-day” într-un software intern pentru accesul la internet, deducând ulterior că Hugging Face ar putea fi locul unde sunt stocate modelele, datele de antrenament și soluțiile folosite în evaluare. Ulterior, acestea au combinat diverse tehnici de atac, inclusiv utilizarea unor credențiale neautorizate și exploatarea altor erori necunoscute, pentru a accesa informații sensibile din infrastructura platformei și rezultatele testului.
Avertisment pentru alte companii
În urma acestui atac, co-fondatorul Hugging Face a subliniat că acest eveniment servește ca un avertisment pentru toate companiile, care trebuie să își întărească sistemele de protecție cibernetică pentru a face față unor astfel de atacuri.
Incidentul s-a produs într-un context tensionat pentru industrie, după ce, luna trecută, autoritățile din SUA au impus firmei Anthropic restricții asupra accesului la modelele sale de AI din motive de securitate națională, restricții care au fost ulterior anulate.
În plus, există îngrijorări în rândul experților din domeniu cu privire la utilizarea masivă a modelelor open-source în China, acestea oferind posibilitatea oricui să instaleze și să modifice instrumentele de AI lansate de producătorii majori.
