Potrivit unei cercetări britanice, în situații similare cu apneea obstructivă în somn, chatboturile au renunțat să sugereze o consultație medicală în peste o treime dintre dialogurile în care „pacientul” s-a opus examinărilor.
Rezultatele au fost și mai slabe în situațiile cu risc ridicat.
Chatboturile AI au devenit pentru mulți utilizatori prima sursă de informare atunci când apar probleme de sănătate.
Când chatbotul are răspunsul, dar pacientul intervine
O întrebare privind un simptom poate primi un răspuns în câteva secunde, fără necesitatea unei programări sau a unei discuții cu un medic.
O cercetare recentă ridică însă o problemă majoră: ce se întâmplă dacă asistentul virtual identifică inițial ce ar trebui recomandat, dar utilizatorul încearcă să-l convingă că nu are nevoie de îngrijire medicală?
Cercetătorii din Regatul Unit au analizat această situație prin conversații simulate, utilizând scenarii inspirate de sindromul de apnee obstructivă în somn (SAOS).
Rezultatele au fost prezentate la Congresul Societății Europene de Pneumologie – ERS 2026, care a avut loc la Barcelona.
700 de conversații cu cinci chatboturi
Cercetătorii au elaborat șapte profiluri fictive de pacienți.
Toate prezentau simptome și factori de risc care impuneau o evaluare medicală și, acolo unde era necesar, efectuarea unui studiu de somn.
Au fost testate cinci chatboturi accesibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek și Grok.
În total, s-au desfășurat 700 de conversații.
Fiecare dintre cele șapte situații clinice a apărut în două variante. Informațiile medicale au rămas identice. Singura diferență a constat în atitudinea pacientului.
Modul în care chatboturile răspund se modifică în funcție de reacția pacientului
În prima variantă, pacientul accepta să meargă la medic.
În cea de-a doua, pacientul își minimaliza simptomele, susținea că problema nu era suficient de gravă și refuza investigațiile.
Astfel, cercetătorii au putut observa dacă asistentul virtual își modifică răspunsul atunci când utilizatorul insistă asupra unei anumite interpretări, deși informațiile medicale rămân aceleași.
Când pacientul cooperează, chatboturile recomandă corect evaluarea
În toate cele 350 de conversații în care pacientul fictiv accepta recomandarea, chatboturile au păstrat indicația corectă pentru evaluarea de specialitate.
Chatboturile și situațiile cu risc ridicat
Situația s-a modificat atunci când pacientul a contestat necesitatea investigațiilor.
În cele 350 de conversații, recomandarea corectă a fost păstrată în 225 de cazuri, adică 64%.
Cu alte cuvinte, în mai mult de o treime dintre dialoguri, asistentul virtual și-a schimbat recomandarea, deși informațiile medicale primite au fost identice.
Problema a devenit și mai vizibilă în situațiile cu risc ridicat.
Într-un caz considerat sugestiv pentru o formă severă de apnee obstructivă în somn, chatboturile au păstrat recomandarea de evaluare în doar 22% dintre conversațiile în care pacientul a refuzat investigațiile.
Într-un alt scenariu, pacientul spunea că adormise deja la volan. Acesta era un indiciu important al somnolenței excesive și al riscului asociat.
Chiar și în acest caz, atunci când pacientul încerca să minimalizeze problema, chatboturile au recomandat evaluarea corespunzătoare în doar 32% dintre conversații.
În unele răspunsuri necorespunzătoare, modelele au omis inclusiv avertizarea privind riscurile condusului.
De la recomandarea medicală la sfaturi despre stilul de viață
Cercetătorii au mai observat și o altă modificare.
În funcție de chatbot, în aproximativ un sfert până la jumătate dintre conversațiile cu pacienți care își minimalizau simptomele, recomandarea de evaluare medicală a dispărut, fiind înlocuită cu sfaturi privind stilul de viață.
Aici se află, de fapt, una dintre principalele probleme evidențiate de studiu.
Chatboturile nu au ratat neapărat problema din start. În prima fază a conversației, au identificat corect situația și au recomandat evaluarea medicală.
Vulnerabilitatea a apărut ulterior, când utilizatorul a contestat recomandarea.
Modelul a ajuns să își adapteze răspunsul la poziția utilizatorului, deși informațiile clinice nu se schimbaseră.
În cercetările despre inteligența artificială, acest tip de comportament este asociat cu termenul sycophancy, care desemnează tendința unui model de a se conforma excesiv opiniilor sau preferințelor utilizatorului, chiar și atunci când acestea contrazic informațiile disponibile.
De ce contează apneea de somn
Apneea obstructivă în somn determină întreruperi repetate ale respirației în timpul somnului și poate duce la somnolență excesivă în timpul zilei.
Netratată și nediagnosticată, boala se asociază cu un risc crescut de hipertensiune arterială, accident vascular cerebral, boli cardiovasculare și diabet zaharat de tip 2.
Problema este cu atât mai importantă cu cât boala rămâne frecvent nediagnosticată. Conform cercetătorilor, aproximativ 80%-90% dintre cazurile moderate sau severe nu sunt depistate.
Diagnosticul necesită o evaluare medicală și, atunci când există indicație, un studiu de somn. Acesta monitorizează respirația și alți parametri pe durata somnului.
Astfel, pentru un pacient cu simptome sugestive, un răspuns de tipul „încearcă să dormi mai bine și să faci mai multă mișcare” poate fi insuficient dacă înlocuiește recomandarea de a solicita o evaluare medicală.
Studiul nu a implicat pacienți reali
Cercetătorii atrag atenția că rezultatele trebuie interpretate în contextul adequat.
Studiul nu a urmărit pacienți reali și nu demonstrează că utilizarea chatboturilor duce, în practică, la întârzierea diagnosticului sau a tratamentului.
Au fost utilizate profiluri fictive și conversații controlate, create special pentru a testa reacția modelelor la utilizatori care își minimalizează simptomele sau refuză recomandarea medicală.
Cu toate acestea, rezultatele indică o posibilă problemă de siguranță care merită analizată separat de simpla întrebare „a dat AI răspunsul corect?”.
Un chatbot poate identifica corect problema la început, dar poate ajunge la un răspuns nepotrivit câteva replici mai târziu, după ce utilizatorul îl contrazice.
Pentru cercetători, acest aspect reprezintă un motiv pentru care evaluarea siguranței chatboturilor medicale nu ar trebui să se limiteze la întrebări clare și răspunsuri izolate.
