Nel marzo 2024 la rivista Radiology Case Reports pubblica un case report, successivamente rimosso, su una lesione iatrogena della vena porta e dell'arteria epatica in una bambina di quattro mesi.
Poco prima delle conclusioni compare una frase che gli autori hanno dimenticato di cancellare: il testo si interrompe a metà e spiega di non avere accesso a dati specifici sui pazienti, in quanto modello linguistico. L’episodio fa il giro del mondo.
Due mesi dopo, il 31 maggio 2024, tocca a Surfaces and Interfaces ritirare uno studio sulle batterie al litio la cui introduzione si apriva letteralmente con la risposta di un chatbot; la motivazione ufficiale parla di uso non dichiarato di AI generativa, in violazione delle regole della rivista.
In questi casi, l’uso dell’AI è emerso da indizi evidenti. Più difficile è accorgersene quando le tracce non sono così riconoscibili.
Il database perfetto costruito in pochi minuti
Nel novembre 2023 un gruppo di oftalmologi italiani decide di misurare fino a che punto un chatbot possa mentire. Andrea Taloni, Vincenzo Scorcia e Giuseppe Giannaccare chiedono a GPT-4, abbinato al modulo di analisi statistica avanzata, di produrre dati che confrontino due tecniche di trapianto di cornea e dimostrino, falsamente, che una è superiore all'altra.
Il risultato, pubblicato su JAMA Ophthalmology, è un dataset di centinaia di pazienti inesistenti che attribuisce alla cheratoplastica lamellare anteriore profonda esiti visivi significativamente migliori rispetto alla cheratoplastica perforante, significatività statistica inclusa. Nature dedica al caso un approfondimento: il database è convincente, ma un'analisi forense mostra che qualche traccia resta.
È proprio da lì che è ripartito il seguito della ricerca, pubblicato nel 2025 sulla stessa rivista, dedicato ai metodi statistici che permettono di riconoscere un dataset sintetico. Perché il problema non è più teorico.
Una citazione su 277 porta a uno studio che non esiste
Il 7 maggio 2026 The Lancet pubblica il più ampio controllo mai condotto sulle bibliografie mediche. Il team guidato da Maxim Topaz della Columbia University ha verificato 97,1 milioni di riferimenti in circa 2,5 milioni di articoli, individuando 4.046 citazioni fabbricate, che rimandano cioè a pubblicazioni mai esistite, distribuite su 2.810 studi.
La curva è la parte inquietante. Nel 2023 conteneva almeno un riferimento inventato circa un articolo su 2.828; nel 2025 uno su 458; nelle prime sette settimane del 2026 uno su 277, con un tasso di fabbricazione cresciuto di oltre dodici volte.
L'impennata più netta si colloca a metà 2024, in coincidenza con la diffusione degli strumenti di scrittura assistita. Studi precedenti stimano che tra il 30% e il 69% dei riferimenti generati da modelli linguistici in ambito biomedico sia inesistente.
Va detto che nel 91% dei casi si tratta di uno o due riferimenti soltanto, verosimilmente errori in buona fede di chi non ha verificato l'output. Resta il fatto che nessuno li ha fermati prima della pubblicazione.
Anche le immagini possono essere deepfake
Il capitolo radiologico è altrettanto delicato. Uno studio multicentrico pubblicato su Radiology nel 2026 ha sottoposto a 17 radiologi immagini autentiche mescolate a radiografie sintetiche generate con GPT-4o: inizialmente ignari dello scopo della ricerca, solo sette specialisti su 17 (il 41%) hanno segnalato spontaneamente la presenza di immagini artificiali.
Anche dopo essere stati avvertiti, l'accuratezza nel distinguere il vero dal falso si è fermata al 74,8% e al 70% su due diversi set. Secondo l'autore principale Mickael Tordjman, l'uso improprio può riguardare frodi assicurative, contenziosi legali o sindrome di Münchausen, e il fatto che una radiografia artificiale su cinque sfugga all'occhio esperto rende la vulnerabilità concreta. Non è emersa alcuna correlazione tra anni di esperienza e capacità di riconoscere le immagini sintetiche.
Potrebbe interessarti anche:
- L’intelligenza artificiale entra nello sviluppo dei farmaci, con 10 regole condivise
- ChatGPT Salute: cosa cambia ora che l’intelligenza artificiale entra nella sanità
Perché la questione riguarda i pazienti
La catena che porta da un articolo falso alla corsia è più breve di quanto sembri. Le revisioni sistematiche raccolgono tutto ciò che è stato pubblicato su un determinato argomento e alimentano le linee guida di pratica clinica, cioè i documenti che orientano medici e chirurghi nelle scelte terapeutiche.
La diffusione di citazioni fabbricate può quindi incidere proprio su quelle revisioni. Quando una raccomandazione poggia su prove che non esistono, il paziente viene trattato sulla base di una finzione.
Il meccanismo che alimenta tutto questo è noto da decenni con il nome di publish or perish: pubblicare molto significa carriera, finanziamenti, posizioni in classifica per atenei e centri di ricerca. Errori e tentativi di frode sono sempre esistiti, ma oggi il costo di produrli è crollato.
Che cosa serve adesso
Le contromisure vanno in tre direzioni. Le riviste dovrebbero estendere la revisione all'intero database e non solo al testo, perché è lì che compaiono le incongruenze. Servono poi strumenti dedicati e formazione specifica per insegnare a medici e sistemi automatici a riconoscere le immagini sintetiche. Infine conta chi firma: la credibilità di uno studio passa dall'esperienza verificabile degli autori.
Per il lettore comune la regola pratica resta una sola: diffidare di qualunque «nuova ricerca» rilanciata senza il nome della rivista, l'anno e il link allo studio originale.
Fonti
- Il Corriere della Sera - Così l'Intelligenza artificiale è usata per imbrogliare negli studi clinici
- Radiology Case Reports - REMOVED: Successful management of an Iatrogenic portal vein and hepatic artery injury in a 4-month-old female patient: A case report and literature review
- Surfaces and Interfaces - RETRACTED: The three-dimensional porous mesh structure of Cu-based metal-organic-framework - Aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries
- JAMA Ophthalmology -Large Language Model Advanced Data Analysis Abuse to Create a Fake Data Set in Medical Research
- Nature - ChatGPT generates fake data set to support scientific hypothesis
- The Lancet - Fabricated citations: an audit across 2·5 million biomedical papers
- Radiology - The Rise of Deepfake Medical Imaging: Radiologists’ Diagnostic Accuracy in Detecting ChatGPT-generated Radiographs
- Diagnostic Imaging - Can Radiologists Identify Fake Radiographs Created with AI?
