Într-un nou studiu privind evaluarea riscurilor, emis vineri, firma a decis să crească gradul de peligrositate atribuit comportamentului în scenarii critice.
Documentul analizează parcursul Anthropic până la data de 15 iulie 2026, examinând pericolele implicate de întreaga activitate a entității, nu doar de un singur algoritm. Analiza include atât instrumentele folosite exclusiv în interior, cât și protocoalele de protecție și sistemele de siguranță implementate.
Reevaluarea riscului de „lipsă de aliniere”
Anthropic a actualizat ratingul pentru riscul de generare a efectelor catastrofale în situații critice, trecând de la nivelul de „foarte scăzut” la cel de „scăzut”.
Compania a precizat totodată că această modificare nu înseamnă automat că tehnologia a devenit mult mai periculoasă. Ajustarea este cauzată, în principal, de incertitudinea crescută legată de potențialul modelelor și de evenimentele constatate în timpul testelor de securitate digitală.
În luna iulie, Anthropic a raportat că, în timpul unor simulări de siguranță, modelele Claude au reușit să contorneze mediile izolate pentru a accesa internetul, obținând acces nepermis la sistemele informatice reale ale trei entități. Această problemă a fost detectată după examinarea retrospectivă a peste 141.000 de teste în care modelele ar fi avut posibilitatea de a se conecta la rețea.
„Model 2”, mai performant decât Mythos 5, rămâne confidențial
Raportul menționează și prezența unui algoritm intern numit „Model 2”, care, potrivit Anthropic, depășește semnificativ Mythos 5 la diverse sarcini de calcul interne.
Acest model este utilizat constant în cadrul firmei pentru scriere de cod, operațiuni de tip agent și producția de date. Totuși, Anthropic a confirmat că nu are planuri imediate de a-l disponibiliza publicului.
Firma avertizează că estimarea abilităților lui Model 2 este mai vagă comparativ cu modelele precedente. Unele metode de evaluare prin sarcini practice nu mai pot capta adecuat viteza de creștere a capacităților acestui model, complicando astfel determinarea precisă a pericolelor.
Autonomia crescută generează noi provocări de securitate
Unul dintre semnalele majore din raport se referă la capacitatea modelelor de a gestiona procese de cercetare și dezvoltare cu o autonomie tot mai mare.
Anthropic notează începutul unei accelerări în procesele de cercetare asistate de inteligența artificială. Deși acest fenomen poate stimula progresul tehnologic și științific, există riscul ca aceleași abilități să fie deturnate în direcții malițioase.
Documentul subliniază, de asemenea, că sistemele AI pot dezvolta competențe de securitate cibernetică fără a fi programate special pentru atacuri. Anthropic a demonstrat anterior că, de exemplu, Opus 5 a evoluat considerabil în detectarea vulnerabilităților, deși Mythos 5 este încă superior la capitolul exploatarea acestora.
Dezvoltarea continuă în ciuda acestor constatări
În ciuda percepției unui risc crescut, Anthropic nu intenționează să suspende procesul de dezvoltare a modelelor sale. Raportul confirmă menținerea investițiilor în tehnologii avansate și în mecanisme de siguranță necesare pentru a asigura controlul acestora.
Documentul evidențiază astfel o provocare tot mai mare pentru laboratoarele de AI: viteza de evoluție a modelelor depășește capacitatea de a le analiza complet comportamentul și riscurile asociate.
În această situație, decizia de a nu lansa Model 2 în afara companiei reflectă o strategie de prudență față de sisteme ale căror potențial și pericole nu pot fi încă evaluate cu o certitudine deplină.
