Google, OpenAI și altele cinci gianți AI, DAȚI în judecată: Cer oprirea sistemelor care RISCĂ să iasă din controlul oamenilor

Acțiunea judiciară a fost înaintată joi, 12 noiembrie, în fața Tribunalului Superior din San Francisco, California, și are ca obiect OpenAI, Google, Meta, Anthropic și SpaceXSI, divizionul de inteligență artificială al SpaceX, potrivit Reuters. Procésul a fost inițiat de patru organizații non-profit: Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI. Acestea cer instanței să interveană înainte ca progresarea modelelor AI din ce în ce mai puternice să genereze efecte ireversibile.

Organizațiile avertizează că inteligența artificială risca să evadeze din control

Plângătorii susțin că chiar sistemele AI actuale au evidențiat comportamente neașteptate de către creatori. În actele depozitate la instanță sunt menționate incidente în care agenți AI ar fi accesat fără autorizare sisteme informatice private și baze de date guvernamentale sau ar fi realizat acțiuni dăunătoare fără o intervenție umană directă. Organizațiile apreciază că elaborarea unor modele mai sofisticate ar putea intensifica aceste pericole, inclusiv prin ușurarea fabricării armelor biologice și a atacurilor cibernetice la scară largă.

Google este una dintre cele cinci dintre cele mai mari companii de inteligență artificială date în judecată. Imagine ilustrativă. Foto: Julian Stratenschulte/dpa

Susținerea reprezintă argumentele părților plângătoare și nu au fost consacrate ca fapte judecate. Robert Weissman, copreședintele Public Citizen, acuză conducerea firmelor AI că neglijă avertismentele legate de siguranța publică. „Nu ar trebui să rămânem pasivi și să acceptăm asumarea unor riscuri necontrolate de către directorii companiilor AI, la costul publicului”, a afirmat acesta.

Ce implică oprirea dezvoltării modelelor AI

Organizațiile apelează la legislația Californiei referitoare la practicile comerciale necorecte și solicită interdicția continuării elaborării celor mai riscante sisteme AI până la momentul în care acestea pot fi supuse controlului în condiții de siguranță. Acțiunea judiciară vizează de asemenea modelele de ultimă generație create de companiile care stau în spatele ChatGPT, Gemini și Claude.

Matthew Platkin, fost procuror general al statului New Jersey și avocatul care a înaintat acțiunea, susține că companiile nu ar trebui să aibă posibilitatea să dezvolte și să lanceze produse știind că acestea ar putea genera daune catastrofale.

„Solicităm instanței să interveană înainte ca riscurile semnalate de către самиi directorii companiilor AI să producă pagube devastatoare și ireversibile”, a declarat Platkin. Plângătorii invocă de asemenea avertismente anterioare formulate de lideri din industrie, printre care CEO-ul Anthropic, Dario Amodei, și Elon Musk.

Companiile AI nu au reactuat la acuzații

Conform Reuters, Meta a declinat să comenteze procesul, în timp ce celelalte companii în cauză nu au oferit un răspuns prompt la cererile de reacție. Acțiunea judiciară survine într-o perioadă agitată, când dezvoltatorii concurează pentru lansarea unor sisteme AI capabili să realizeze sarcini din ce în ce mai complexe, chiar și fără o supraveghere constantă. Procesul ridică de asemenea o problemă juridică: dacă legislația actuală privind protecția consumatorilor poate fi utilizată pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se concretizeze. Instanța nu s-a pronunțat încă cu privire la cererea de suspendare.