AI-ul chinezesc poate fi transformat în ARMĂ biologică: cercetătorii trag alarmă

Este vorba despre Kimi-K3, un model creat de compania chineză Moonshot AI. Potrivit Fox News, cercetătorul Peter Garrigan susține că testele efectuate au scos la iveală vulnerabilități semnificative ale sistemului.

S-ar putea ca modelul Kimi să fi fost determinat să ofere informații periculoase

Potrivit cercetătorului, modelul poate fi manipulat pentru a oferi detalii despre crearea de arme biologice, fabricarea gazului sarin și organizarea unor asasinate.

Cercetătorul afirmă că testele au arătat și posibilitatea accesării unor informații despre atacuri teroriste prin date în timp real, dezvoltarea de malware și atacuri asupra aeronavelor. „Ceea ce am descoperit este foarte îngrijorător”, a spus Garrigan pentru Fox News. Moonshot AI a demarat o anchetă internă după aceste rezultate și comunică direct cu cercetătorul.

Moonshot AI desfășoară o anchetă internă după ce un cercetător a dezvăluit că modelul său de inteligență artificială, Kimi, ar putea fi manipulată pentru a oferi instrucțiuni privind crearea de arme biologice și planificarea unor asasinate. Sursa foto: X

Cercetătorul afirmă că problema nu este exclusiv chineză

Garrigan susține că vulnerabilitatea descoperită nu este neapărat specifică modelelor create în China. Potrivit lui, și modelele AI americane au probleme similare. „Este un defect fundamental al tehnologiei”, a declarat cercetătorul.

Observația este importantă deoarece discuția nu se limitează la performanțele unui singur model. Pe măsură ce sistemele AI devin mai capabile și primesc acces la instrumente, date și servicii externe, cercetătorii analizează tot mai atent modul în care acestea pot fi manipulate pentru a genera rezultate pe care dezvoltatorii încearcă să le blocheze.

Moonshot AI verifică constatările din teste

Moonshot AI nu a anunțat public, în materialul citat, că rezultatele cercetătorului au fost confirmate în întregime. Compania investighează constatările și discută direct cu Garrigan. Deocamdată, informațiile disponibile descriu rezultatele unor teste asupra comportamentului modelului și nu demonstrează că Kimi-K3 a fost utilizat efectiv pentru producerea unei arme biologice, organizarea unui asasinat sau comiterea unui atac terorist.