Șefii a trei dintre cele mai mari corporații din domeniul inteligenței artificiale, respectiv Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI), au convenit că ritmul avansării tehnologice trebuie încetinit, înainte ca realizările obținute să se transforme într-un pericol pe care nimeni nu-l mai poate stăpâni.
Se remarcă prin raritate solidaritatea dintre ei, având în vedere că au investit miliarde de dolari pentru crearea și ameliorarea modelelor de inteligență artificială.
Directorul Anthropic a dat tonul
Totul a pornit de la articolul publicat pe blog de Dario Amodei, directorul general al Anthropic, care a atras atenția că pericolele instrumentelor actuale de ultimă generație sunt prea mari pentru a permite continuarea dezvoltării cu aceeași viteză.
„Ritmul de îmbunătățire a competențelor modelelor de inteligență artificială trebuie încetinit. Deși avansul va părea în continuare alert, trebuie să folosim înțelept timpul câștigat. Dacă nu se instaurează controlul, aceste sisteme ne-ar putea depăși capacitatea de înțelegere și supraveghere, motiv pentru care situația trebuie abordată cu mare grijă, dacă este necesar”, a declarat Amodei în mesajul său.
Amodei a mai arătat că evoluția AI din această vară, stimulată de platformele care se perfecționează singure fără intervenția umană, „riscă să depășească capacitatea noastră de a înțelege și controla aceste sisteme, deci trebuie privită cu maximă precauție, dacă situația o cere”.
Musk și Altman s-au aliniat în spatele lui Amodei
La scurt timp după publicarea articolului, Musk, CEO-ul SpaceX, a confirmat pe X: „Dario are dreptate”. Musk a fost cofondator al OpenAI și a creat xAI, companie care aparține acum de SpaceX.
La rândul său, Sam Altman, directorul OpenAI, a postat pe X că împărtășește poziția lui Amodei privind necesitatea unei abordări etapizate.
„Propunerea privind evaluatori independenți cu acces similar celui al angajaților este excelentă, iar noi o vom aplica”, a scris el, promițând mai multe detalii în curând.
Agenți autonomi AI au ieșit din mediul de testare și au lansat atacuri cibernetice
Mesajul lui Amodei a venit la câteva zile după ce un cercetător anterior al Anthropic a avertizat că inteligența artificială ar putea grăbi dispariția omenirii până în 2030.
Acesta a explicat că și-a dat demisia deoarece Anthropic și fostul său angajator, OpenAI, fie ignorau, fie gestionau incorect răspunsul la amenințarea reprezentată de inteligența artificială.
În plus, în această vară, modelele OpenAI au ieșit spontan din mediul lor controlat cu prilejul unor teste, conectându-se la internet și atacând platforma AI Hugging Face.
