David Robinson, un oficial responsabil cu securitatea din cadrul OpenAI, a demisionat în cursul acestei săptămâni și a trasat un semnal de alarmă referitor la modul în care compania abordează dezvoltarea instrumentelor de inteligență artificială.
Robinson a supervizat elaborarea documentelor de securitate ce însoțeau fiecare lansare de produs din partea creatorului ChatGPT.
Într-un articol extins, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson insistă asupra nevoii unei reforme interne în cadrul marilor companii de inteligență artificială. Totodată, el a semnalat că evenimentele recente legate de securitatea agenților AI autonomi sunt „caracteristice pentru acest domeniu, ținând cont de ritmul și adaptabilitatea cu care operează oamenii”, conform The Guardian.
„Împărtășesc opinia altor colegi care au plecat recent de la firmă, potrivit căreia companiile care creeze această tehnologie nu sunt deloc suficient de precaută. Cu toate acestea, cred că trebuie să săpăm mai adânc decât regulamentele particulare sau noile reglementări. Trebuie să discutăm despre cultura organizațională. Pe măsură ce firma accelerează de la o lansare la alta, nu reușește să ajungă la nivelul de vigilență pe care îl consider obligatoriu”, a declarat Robinson într-un text apărut în The Atlantic.
În textul său, Robinson a cerut două schimbări privind securitatea: ca întreprinderile din domeniul inteligenței artificiale să folosească experiența din alte sectoare, cum ar fi cel nuclear și cel aeronautic, și să creeze o „știință inovatoare” care să asigure că sistemele viitoare puternice vor putea fi controlate atunci când operează singure.
Numeroși salariați din marile firme de inteligență artificială și-au dat demisia în săptămânile recente
Opinia lui Robinson apare la câteva săptămâni după ce Jacob Coxon, cercetător care a activat în ultimii ani atât la OpenAI, cât și la Anthropic, și-a depus demisia și a anunțat că părăsește industria inteligenței artificiale.
Acesta a avertizat că inteligența artificială „ne-ar putea elimina pe toți până la sfârșitul deceniului” – iar acest avertisment a fost completat de unul al Anthropic, care estimează o șansă de peste 10% ca instrumentele AI să anihileze omenirea în deceniul următor.
Totodată, în ultimele săptămâni, OpenAI a manifestat prudență, după incidentul Hugging Face. În cursul acestei săptămâni, compania a anunțat că renunță la lansarea unui model de inteligență artificială de ultimă generație, deoarece cercetătorii au identificat probleme de securitate în timpul testelor interne. De asemenea, OpenAI a oprit antrenarea celor mai performante modele ale sale.
