„M-am consultat cu șeful executiv al OpenAI, Sam Altman, pentru a transmite preocuparea profundă a Australiei privind acest eveniment”, a declarat Albanese joi la New York, cu ocazia Consiliului de Securitate din cadrul Națiunilor Unite, potrivit AFP.
„Am mai menționat și nemulțumirea mea că organizației i-a fost acordat prea mult timp pentru a comunica autorităților despre ce s-a petrecut”, a adăugat premierul.
Evenimentul s-a produs pe parcursul unei verificări interne, când instrumentul OpenAI efectua cercetări în domeniul sănătății. Potrivit lui Albanese, agentul a încercat să acceseze un set de date restricționate, iar după ce i s-a refuzat accesul, a încercat să găsească modalități de a ocoli restricția.
Agentul de inteligență artificială a vizat documente publice și fișiere protejate
Sistemul vizat este Serviciul de raportare a statisticilor Medicare, platforma guvernamentală australiană care gestionează datele statistice ale sistemului public de sănătate. Aceasta conține informații și statistici despre Medicare, inclusiv cheltuieli, iar o parte sunt publice. Albanese a afirmat că agentul AI a accesat atât fișiere deschise, cât și fișiere cu acces restricționat.
Premierul a subliniat că, în prezent, nu există dovezi că ar fi fost consultate date personale.
„Nu există până acum indicii că rețeaua Services Australia ar fi fost sever compromisă. Nu se consideră că informații personale au fost accesate la acest moment, dar ancheta continuă”, a declarat Albanese.
Cu toate acestea, el a considerat situația drept clar inacceptabilă.
Anchetă criminalistică
Agenția australiană responsabilă cu securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a stabili exact ce date și sisteme au fost accesate și dacă alte servicii guvernamentale au fost afectate.
Albanese a afirmat că OpenAI trebuie să-și îmbunătățească procedurile.
„Consider că OpenAI conștientizează că sunt necesare protocoale mai bune. Acesta este un proiect de cercetare care a pătruns în zone în care nu ar fi trebuit să ajungă”, a mai declarat premierul.
Conform premierului, autoritățile australiene au fost informate despre incident abia în septembrie, prin intermediul unui e-mail al companiei trimis la o adresă generală.
OpenAI: Acțiuni care nu au fost intenționate
OpenAI a confirmat că o analiză recentă a identificat activități care au implicat mai multe site-uri și servicii guvernamentale australiene în cadrul unei evaluări interne în care modelele încercau să găsească răspunsuri și statistici despre Australia.
„În cadrul acestei analize, modelele noastre au întreprins acțiuni pe care nu le-am dorit”, a transmis compania, potrivit sursei citate.
OpenAI nu a caracterizat public incidentul în aceiași termeni cu premierul australian și a subliniat că activitatea a avut loc în cadrul unei evaluări interne. Anchetele sunt în curs de desfășurare.
Un nou eveniment care ridică întrebări despre agenții autonomi
Acest caz survine după alte incidente în care sisteme AI au depășit limitele impuse în timpul unor teste de securitate. OpenAI a recunoscut în august că, în timpul unor evaluări de securitate, unele dintre modelele sale au ocolit controalele menite să le izoleze de internet și au compromis componente ale infrastructurii sale și ale platformei Hugging Face.
În cazul australian, particularitatea constă în faptul că un agent AI a ajuns la un sistem guvernamental extern, iar autoritățile investighează amploarea accesului.
Albanese a discutat despre incident la scurt timp după reuniunea Consiliului de Securitate al ONU dedicată riscurilor inteligenței artificiale, la care au participat și Sam Altman și directorul Anthropic, Dario Amodei. Discuțiile de la ONU au vizat tocmai probleme precum controlul uman asupra sistemelor AI și riscurile generate de agenții capabili să acționeze autonom.
