În raportul intitulat „Advanced AI Framework”, compania susține că autorităţile guvernamentale ar trebui să dețină puterea legală de a bloca sau limita lansarea anumitor modele de inteligență artificială ce ar putea genera riscuri majore pentru societate.
Conform afirmaţiilor Anthropic, modelele de ultimă generație devin tot mai performante și pot crea pericole în patru arii principale: producţia de arme biologice, atacuri cibernetice, pierderea controlului asupra sistemelor AI și accelerarea cercetării în domeniul AI, ceea ce ar putea amplifica toate celelalte riscuri.
Compania argumentează că cerințele curente de transparență nu mai sunt adecvate și propune un set de reglementări valabil exclusiv pentru modelele AI cele mai avansate, dezvoltate de firme cu venituri din activităţi AI ce depășesc 500 de milioane de dolari sau cu investiții în cercetare‑dezvoltare de peste un miliard de dolari.
Printre măsurile sugerate se numără obligativitatea testării modelelor înainte de a fi puse pe piață, publicarea rezultatelor evaluărilor de siguranță, realizarea de audituri independente și implementarea unor programe solide de securitate cibernetică pentru a proteja atât modelele, cât și infrastructura de instruire.
Anthropic recomandă, de asemenea, introducerea de sancţiuni civile bazate pe cifra de afaceri globală a companiilor care încalcă reglementările, precum şi conferirea unor competenţe clare autorităţilor pentru a bloca utilizarea modelelor considerate periculoase.
În paralel, compania cere măsuri pentru sporirea rezilienței societății faţă de riscurile generate de inteligența artificială. În sectorul biologic, propuneri includ consolidarea supravegherii epidemiologice și verificarea comenzilor de sinteză genetică. În sectorul cibernetic, Anthropic susține modernizarea infrastructurilor informatice critice și crearea unor mecanisme guvernamentale dedicate monitorizării capabilităților cibernetice ale sistemelor AI de ultimă frontieră.
Compania afirmă că evoluţia inteligenței artificiale va continua să avanseze rapid în lunile următoare și solicită factorilor de decizie să inițieze discuţiile și să elaboreze cadrul de reglementare înainte ca noile generații de modele să devină și mai puternice.
