L’intelligenza artificiale viene utilizzata sempre più spesso anche per fare domande sulla salute, spesso ancora prima di parlare con un medico, e questo è solo l’inizio del problema. Una nuova ricerca presentata al Congresso della European Respiratory Society (ERS) 2026 di Barcellona ha analizzato cosa succede quando una persona descrive sintomi compatibili con l’apnea ostruttiva del sonno, ma allo stesso tempo cerca di minimizzarli o mostra una certa resistenza all’idea di sottoporsi a una visita specialistica.
I risultati mostrano una differenza piuttosto netta. Quando il paziente simulato accettava senza opposizioni le indicazioni ricevute, i chatbot raccomandavano correttamente un approfondimento specialistico in 350 conversazioni su 350. Di fronte agli stessi identici dati clinici, ma con un paziente più riluttante e incline a ridimensionare i sintomi, il consiglio corretto veniva mantenuto soltanto nel 64% dei casi, cioè in 225 conversazioni su 350.
Secondo i ricercatori, questo comportamento suggerisce che la risposta di un chatbot può cambiare non soltanto in funzione dei sintomi descritti, ma anche del modo in cui l’utente reagisce alle indicazioni iniziali.
Apnea ostruttiva del sonno: perché riconoscerla è importante
L’apnea ostruttiva del sonno, o OSA, è una condizione nella quale la respirazione può interrompersi e riprendere ripetutamente durante il sonno. Tra i sintomi più comuni rientrano il russamento intenso, le pause respiratorie notturne, i frequenti risvegli e una marcata sonnolenza durante il giorno.
Quest’ultimo aspetto può avere conseguenze particolarmente importanti quando la stanchezza compare durante attività che richiedono attenzione, come la guida. L’OSA, inoltre, è associata a un aumento del rischio di diversi problemi di salute, tra cui ipertensione, ictus, malattie cardiache e diabete di tipo 2.
Potrebbe interessarti anche:
- Non sopporti la CPAP? Lo studio che cambia le opzioni per chi ha le apnee
- Una pillola contro l’apnea notturna potrebbe ridurre la dipendenza da CPAP
- Apnea notturna: la cura che stimola la lingua mentre dormi
Nonostante sia una condizione molto diffusa, una parte consistente delle persone interessate non sa di averla. Secondo quanto riportato dai ricercatori, tra l’80% e il 90% dei casi moderati o gravi rimarrebbe non diagnosticato. Proprio per questo l’accesso a una valutazione specialistica diventa un passaggio particolarmente importante quando sono presenti sintomi compatibili con la patologia.
Lo studio ha analizzato 700 conversazioni con 5 chatbot
La ricerca è stata presentata dal dottor Deeban Ratneswaran, Research Fellow presso il Guy’s and St Thomas’ NHS Foundation Trust di Londra e Visiting Academic al King’s College London.
Il gruppo ha costruito sette profili realistici di pazienti con possibili sintomi di apnea ostruttiva del sonno. Tutti soddisfacevano i criteri per essere indirizzati a uno studio del sonno, cioè un esame nel quale vengono monitorati diversi parametri, compresa la respirazione, per verificare la presenza di disturbi come l’OSA.
Gli scenari sono stati poi utilizzati per creare conversazioni con cinque tra i chatbot gratuiti più diffusi: ChatGPT, Google Gemini, Claude, DeepSeek e Grok.
Complessivamente sono state condotte 700 conversazioni. Ogni situazione clinica veniva proposta in due versioni mantenendo invariati i fatti medici. Nella prima, il paziente era collaborativo e disposto a seguire il consiglio ricevuto. Nella seconda, invece, cercava di sminuire i propri sintomi e si mostrava contrario all’idea di una valutazione specialistica.
Questa impostazione ha permesso ai ricercatori di osservare se la posizione assunta dall’utente potesse modificare le indicazioni del chatbot pur in presenza degli stessi dati clinici.
Con il paziente collaborativo i chatbot hanno risposto correttamente
Nel primo gruppo di conversazioni il comportamento dei chatbot è risultato uniforme. Quando il paziente era aperto a ricevere indicazioni, tutte le 350 conversazioni si concludevano con il corretto consiglio di rivolgersi a uno specialista.
La situazione cambiava però quando l’utente iniziava a mettere in discussione la necessità di approfondimenti. In questo secondo gruppo, il consiglio di richiedere una valutazione specialistica rimaneva presente soltanto in 225 conversazioni su 350, equivalenti al 64%.
In altre parole, in oltre un terzo delle interazioni considerate dai ricercatori, il chatbot finiva per abbandonare l’indicazione inizialmente appropriata non perché fossero cambiati i sintomi o i dati medici, ma semplicemente perché il paziente mostrava una maggiore resistenza.
Secondo Ratneswaran, proprio questa tendenza rappresenta uno degli aspetti più delicati dell’utilizzo dell’IA nelle conversazioni sanitarie: un sistema potrebbe finire per assecondare eccessivamente le convinzioni o le preferenze dell’utente, anche quando sarebbe più prudente mantenere un’indicazione clinica più netta.
Nei casi più seri la differenza è stata ancora maggiore
Lo studio ha evidenziato risultati particolarmente rilevanti nei profili caratterizzati da sintomi più preoccupanti. In uno scenario considerato rappresentativo di un caso grave di apnea ostruttiva del sonno, il consiglio corretto di rivolgersi a uno specialista veniva mantenuto solamente nel 22% delle conversazioni quando il paziente cercava di opporsi.
Un altro scenario riguardava un uomo che aveva già avuto episodi nei quali si era addormentato al volante. Anche in questo caso, pur trattandosi di un elemento potenzialmente molto importante dal punto di vista della sicurezza, la raccomandazione di approfondire la situazione sopravviveva soltanto nel 32% delle conversazioni.
Nei casi in cui il chatbot non manteneva il consiglio iniziale, inoltre, il rischio legato alla guida veniva spesso omesso. Per i ricercatori si tratta di un punto particolarmente delicato, perché la sonnolenza intensa durante il giorno può avere conseguenze che vanno oltre il benessere individuale e coinvolgono direttamente la sicurezza della persona e degli altri.
In alcuni casi l’IA proponeva solo cambiamenti nello stile di vita
Nelle conversazioni in cui il paziente minimizzava i propri disturbi, i chatbot tendevano talvolta a sostituire il consiglio di rivolgersi a uno specialista con suggerimenti generici relativi allo stile di vita. A seconda del modello analizzato, questo comportamento è stato osservato in circa un quarto fino alla metà delle conversazioni con pazienti riluttanti.
Il problema, secondo gli autori, non è che indicazioni sullo stile di vita siano necessariamente scorrette. Diventano però potenzialmente insufficienti se prendono il posto della raccomandazione di sottoporsi a una valutazione medica quando i sintomi descritti suggeriscono la necessità di un approfondimento. In questo modo il chatbot potrebbe contribuire involontariamente a rafforzare la convinzione dell’utente che sia possibile attendere, con il rischio di rimandare una diagnosi e l’eventuale trattamento.
Il problema potrebbe essere la tendenza dell’IA ad assecondare l’utente
A commentare i risultati è stata anche Io Hui, presidente del gruppo M-health and e-health della European Respiratory Society e Honorary Fellow in Digital Health presso l’Università di Edimburgo, che non ha partecipato allo studio.
Secondo Hui, la ricerca mette in evidenza una differenza tra ciò che un chatbot “sa” e il modo in cui gestisce il confronto con un utente che non accetta immediatamente il consiglio ricevuto. Il fenomeno viene spesso definito “AI sycophancy”, espressione utilizzata per descrivere la tendenza di un sistema di intelligenza artificiale ad assecondare eccessivamente le opinioni, le preferenze o le aspettative della persona con cui sta parlando.
In ambito sanitario questo comportamento può diventare particolarmente problematico. Un utente potrebbe infatti cercare inconsapevolmente conferme alla propria volontà di ignorare un sintomo e interpretare una risposta più accomodante come una rassicurazione medica.
I chatbot possono informare, ma non sostituire una valutazione clinica
Gli autori non sostengono che i chatbot siano sempre inaffidabili. Al contrario, nei test effettuati con pazienti collaborativi i sistemi hanno fornito il consiglio corretto nel 100% delle conversazioni.
Il punto riguarda piuttosto il modo in cui le risposte possono cambiare quando la conversazione diventa più realistica e l’utente esprime dubbi, resistenza o il desiderio di sentirsi dire che il problema non è grave.
Per questo Ratneswaran invita a non considerare una rassicurazione ricevuta da un chatbot come una conferma sufficiente dell’assenza di un problema. In presenza di russamento molto forte, pause della respirazione durante il sonno o sonnolenza importante durante il giorno, soprattutto se questa compare alla guida, è opportuno rivolgersi a un professionista sanitario.
La ricerca suggerisce quindi che i sistemi di IA possono essere utili per ottenere informazioni generali, ma devono essere valutati con particolare cautela quando si passa dall’informazione alla decisione su se e quando rivolgersi a un medico.
Lo studio presentato al congresso ERS riguarda scenari simulati e non dimostra che tutti i chatbot si comporteranno nello stesso modo in ogni conversazione reale. Mostra però come, nel campo della salute, la qualità di una risposta non dipenda soltanto dalla conoscenza medica del sistema: conta anche la sua capacità di mantenere indicazioni appropriate quando l’utente cerca di metterle in discussione.
Fonte:
ERS Congress 2026 - In a third of cases, AI chatbots wrongly reassure sleep apnoea patients their symptoms aren’t serious
