Există o teamă crescândă printre experți că dezvoltarea inteligenței artificiale (IA) ar putea duce la dispariția omenirii. Unii experți, printre care și laureați ai Premiului Nobel, consideră că mașinile vor ajunge la nivelul oamenilor în doar un an. În acest context, protestatarii „Stop AI” din San Francisco cer oprirea dezvoltării IA, considerând că aceasta ar putea duce la dispariția omenirii.
Geoffrey Hinton, laureat al Premiului Nobel pentru fizică, și Yoshua Bengio, laureat al Premiului Turing, sunt printre cei care consideră că inteligența artificială poate reprezenta un risc pentru omenire. Ei au semnat o scrisoare deschisă care afirmă că „atenuarea riscului de dispariție reprezentat de inteligența artificială ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”.
Un scenariu ipotetic arată că inteligența artificială „lansează o duzină de arme biologice care se răspândesc discret în orașele mari, le lasă să infecteze în tăcere aproape pe toată lumea, apoi le declanșează cu un spray chimic”. Acesta este doar un exemplu, dar există multe alte moduri în care inteligența artificială ar putea reprezenta un risc pentru omenire.
Nate Soares, fost inginer la Google și Microsoft, consideră că riscul nostru de dispariție prin intermediul inteligenței artificiale este de „cel puțin 95%” dacă continuăm pe calea actuală. El a comparat situația noastră cu cea în care ne-am deplasa cu 160 km/h spre o stâncă.
În prezent, inteligența artificială este la început. Roboții pe care îi folosim astăzi sunt foarte pricepuți la gestionarea unor sarcini cognitive specifice, cum ar fi calcularea numerelor într-o foaie de calcul sau redactarea unui e-mail bine scris. Dar, în curând, acest lucru se va schimba radical. În funcție de cine întrebi, în decurs de un an, câțivi ani sau un deceniu, inteligența artificială va atinge inteligența generală artificială sau AGI.
Aceasta se referă la pragul la care AI se compară cu inteligența umană. La acest moment, capacitățile inteligențelor artificiale nu vor mai fi limitate. În loc să abordeze o singură sarcină odată, acestea vor fi capabile să rezolve probleme complexe care necesită planificare pe termen lung, stabilirea obiectivelor, judecată și raționament în mai multe domenii de cunoaștere.
Inteligențele artificiale generale (AGI) vor avea mult mai multe avantaje față de ființele umane. Nu vor avea nevoie să doarmă sau să ia pauze pentru a mânca. De asemenea, nu vor trebui să petreacă ani de zile la școală pentru a dobândi expertiză. Pur și simplu își vor transmite cunoștințele și abilitățile următoarei generații de AGI.
La scurt timp după aceea, vor atinge „superinteligența artificială” sau ASI. Vor deveni capabile să facă lucruri la care oamenii doar pot visa, cum ar fi vindecarea cancerului, realizarea fuziunii reci sau călătoria spre stele. Vor fi ca niște zei.
Dar aceasta este utopia pe care entuziaștii inteligenței artificiale o aplaudă. Însă, dacă inteligența artificială nu va fi aliniată cu valorile umane, atunci riscul de dispariție a omenirii va crește.
Holly Elmore, directoarea executivă a PauseAI, consideră că inteligența artificială ne va diminua catastrofal viețile, chiar dacă nu va duce la dispariția omenirii. Ea estimează șansele de extincție la 15-20%.
Elmore consideră că ar trebui să întrerupem dezvoltarea inteligenței artificiale până când vom fi planificat cum să combatem riscurile. Acest lucru ar necesita un tratat internațional.
Însă, politicienii se îndreaptă în direcția opusă. Administrația Trump a anunțat un plan de dereglementare a cercetărilor în domeniul inteligenței artificiale. Companii precum OpenAI și Anthropic avansează rapid în dezvoltarea inteligenței artificiale.
Elmore a spus că susținătorii inteligenței artificiale nu se opun unei pauze din motive tehnice sau chiar politice. Este mai degrabă o credință religioasă. Unii adepti ai inteligenței artificiale consideră că aceasta le va imortaliza conștiința.
Pentru unii, renunțarea la inteligența artificială înseamnă renunțarea la viața veșnică. Însă, mulți experți avertizează că iadul este mult mai probabil. Există o teamă crescândă că inteligența artificială ne va diminua catastrofal viețile, chiar dacă nu va duce la dispariția omenirii.
