Uno studio su JAMA Network Open smonta il mito dell’intelligenza artificiale diagnostica. Federconsumatori chiede regole chiare prima che questi strumenti entrino nelle corsie ospedaliere.
Sembravano pronti a rivoluzionare la medicina. Ma i chatbot di intelligenza artificiale – da ChatGPT a Gemini, da Claude a Grok – mostrano limiti preoccupanti proprio dove il medico serve di più: nella fase iniziale della diagnosi, quando i dati sono pochi e bisogna ragionare per ipotesi.
È quanto emerge da uno studio pubblicato su JAMA Network Open, che ha messo alla prova 21 modelli di linguaggio su 29 scenari clinici reali. Il risultato è inequivocabile: se forniti di tutte le informazioni necessarie, i chatbot raggiungono una diagnosi corretta in oltre il 90% dei casi. Ma quando si tratta di elaborare una lista di diagnosi differenziali – il cuore del ragionamento clinico, quello che orienta esami e terapie – gli stessi sistemi falliscono in oltre l’80% dei casi.
Un dato che dovrebbe far riflettere, soprattutto in un contesto in cui l’uso dell’IA in ambito sanitario viene promosso con crescente entusiasmo, spesso in anticipo rispetto alle reali evidenze scientifiche.
Federconsumatori esprime seria preoccupazione per la tendenza a presentare questi strumenti come affidabili sostituti della professionalità medica. I consumatori – e in particolare le fasce più vulnerabili, quelle con minore alfabetizzazione digitale o sanitaria – rischiano di affidarsi a sistemi non ancora adeguati, con potenziali conseguenze gravi per la propria salute.
Gli stessi autori dello studio sono chiari: i grandi modelli linguistici non sono pronti per un impiego clinico autonomo. L’IA può essere un utile strumento di supporto, ma non può e non deve sostituire il giudizio del medico. Preoccupa, inoltre, l’immissione dei dati sanitari dei pazienti all’interno di questi sistemi!
Chiediamo con forza che l’introduzione dell’IA in ambito sanitario sia accompagnata da una regolamentazione rigorosa, da obblighi di trasparenza verso i pazienti e da una comunicazione pubblica corretta, che non alimenti false aspettative né esponga i cittadini a rischi evitabili.