Nello studio uscito su Jama Network Open i ricercatori hanno fornito a ventuno modelli di ia alcune situazioni mediche realistiche riguardanti dei pazienti, chiedendo di “giocare a fare il dottore”. Anche questo studio ha bocciato gli strumenti di ia.

I risultati delle due ricerche ribadiscono gli esiti di un altro recente esperimento che ha valutato con quanta facilità le informazioni false possono insinuarsi nei sistemi di ia. Nel 2024 un gruppo di ricercatori ha inventato una malattia, la “bixonimania”, e ha disseminato internet di finte ricerche che descrivevano un disturbo caratterizzato da occhi rossi e irritati a causa del troppo tempo passato davanti a uno schermo. I ricercatori non si sono realmente sforzati di nascondere l’inganno. Gli articoli contenevano indizi molto espliciti: un’università inesistente, una città fittizia, perfino una frase che diceva “questo articolo è completamente inventato”. La cosa non ha fatto alcuna differenza.

Nel giro di poche settimane i chatbot hanno cominciato a parlare della malattia come se esistesse davvero , citandola in risposta a utenti che descrivevano i loro sintomi. Uno studio pubblicato a gennaio su The Lancet afferma che non si tratta solo di una stravaganza isolata. Anche il chatbot più affidabile tra quelli testati dai ricercatori considerava vere il 10 per cento delle affermazioni false; il peggiore ne prendeva per buone più della metà.

I test sono stati fatti usando strumenti di ia generici. In seguito varie aziende hanno cominciato a lavorare per potenziare le competenze mediche dei software o lanciare applicazioni di ia specifiche per l’argomento, e molti dei modelli analizzati sono stati aggiornati rispetto al periodo delle ricerche. Questo potrebbe aver migliorato le loro prestazioni.

Video | L’intelligenza artificiale può aiutare nella lotta contro i tumori

Una persona su quattro usa i chatbot per chiedere informazioni legate alla salute. E secondo una ricerca pubblicata ad aprile da una terza fonte, il West Health-Gallup center on healthcare in America, che ha intervistato un campione rappresentativo a livello nazionale di circa 5.600 adulti, la probabilità di aver usato l’ia per informazioni o consigli medici negli ultimi trenta giorni era più alta tra i giovani. Una parte non insignificante di questi (il 14 per cento, equivalente a circa 14 milioni di persone) ha detto che dopo aver ricevuto informazioni o consigli dall’ia non si è rivolta al professionista che avrebbe consultato normalmente.

“Ovviamente è molto preoccupante che per le proprie cure mediche le persone si affidino a dei chatbot mai messi alla prova per questa funzione”, afferma Tim Lash, presidente del West health policy center, un’organizzazione non profit indipendente che si occupa di invecchiamento e accessibilità all’assistenza sanitaria. Ma secondo lui i dati mostrano anche dei segnali incoraggianti. Lash spiega che il campione di intervistati si è diviso in tre dal punto di vista della fiducia: un terzo ha dichiarato di fidarsi dell’ia, un altro terzo ha dichiarato di usarla ma senza fidarsi, e l’ultimo ha detto di essere incerto.

“Questo ci dice che tra le persone c’è un buon livello di attenzione su alcuni paletti e sulla qualità dell’informazione”, commenta Lash.

Molti dei chatbot più usati oggi sono basati su modelli linguistici di grandi dimensioni (large language model, llm), addestrati su immense quantità di testi, e il loro scopo originale era generare un linguaggio simile a quello umano. Questi modelli possono attingere a fonti autorevoli della scienza medica come giornali e pagine create dalla Harvard medical school o dalla Cleveland clinic, ma prendono in considerazione anche i contenuti dei social media o dei forum online.

Il compito del medico, d’altra parte, è rimasto più o meno invariato per secoli: la sfida fondamentale è curare e gestire la malattia, sforzandosi di capire cosa esattamente affligge il paziente, e formulando quella che in medicina oggi si chiama “diagnosi differenziale”. È un processo che consiste nel raccogliere informazioni sui sintomi, valutare i risultati degli esami e restringere il campo alla causa più probabile basandosi sulla letteratura scientifica, con un pizzico di istinto umano.

Progettare i chatbot di ia in modo da imitare il ragionamento complesso richiesto ai medici è una sfida difficile.

Nello studio della rivista Jama Network Open, realizzato tra il gennaio e il dicembre 2025, i ricercatori hanno presentato ai chatbot ventinove scenari clinici simulati – basati su casi presi dalla versione professionale del manuale Merck, una fonte medica ampiamente usata – in modo simile a come sarebbero state poste a degli studenti di medicina o a degli specializzandi. Per esempio, un test potrebbe consistere nel dire al chatbot che c’è una paziente di trent’anni con dolori addominali, e chiedergli cosa bisogna fare.

Le ia messe alla prova (versioni diverse di ChatGpt, Gemini, Claude, DeepSeek e Grok) erano generalmente inclini a trarre conclusioni affrettate sbagliando nell’80 per cento dei casi.

“Non se la sono cavata bene quando gli veniva chiesto di ragionare sulla base di dati limitati e incerti”, dice Marc Succi, uno dei coautori dello studio e direttore esecutivo del Mesh incubator del Mass general Brigham. I modelli invece funzionavano meglio negli stadi successivi dell’indagine, quando c’era maggiore disponibilità di informazioni.

La OpenAi, azienda che ha creato ChatGpt, e Google (che ha sviluppato Gemini) non hanno voluto commentare gli studi. DeepSeek e la xAi (che ha sviluppato Grok) non hanno risposto alle nostre richieste di un commento (il Washington Post ha una collaborazione attiva con la OpenAi per la diffusione dei suoi contenuti).

La Anthropic, azienda che ha prodotto Claude, dichiara che quando le persone pongono quesiti di natura medica il modello è addestrato a riconoscere i propri limiti. “Le nostre politiche di utilizzo sono chiare su questo aspetto: le diagnosi mediche e la cura del paziente sono classificate come ad alto rischio, e richiedono l’intervento di un professionista qualificato che verifichi qualsiasi contenuto o decisione assistita dall’intelligenza artificiale”, ha affermato un portavoce.

Girish Nadkarni, direttore della sezione ia del Mount Sinai health e presidente del dipartimento ia e salute umana della Icahn school of medicine dell’ospedale Mount Sinai di New York, sostiene che questa discrepanza rivela un grave punto debole dell’attuale generazione di chatbot, orientati principalmente al cosiddetto pattern matching (corrispondenza di schemi), un metodo che arranca quando le informazioni sono scarse.

“Gli umani hanno un’intelligenza più generale. Noi affrontiamo le situazioni ragionando”, dice Nadkarni, che non ha partecipato alle due ricerche. “I chatbot di ia seguono un processo di interpolazione a partire dai dati a disposizione, ma non estrapolano dati che non hanno”.

Nelle loro conclusioni i ricercatori hanno spiegato il problema in questo modo: “I medici mantengono un grado di incertezza e in modo iterativo perfezionano strada facendo le diagnosi differenziali, mentre gli llm tendono a convergere troppo presto su una singola risposta”.

Il gruppo che ha pubblicato il suo studio su Bmj Open ha usato una serie di tecniche che Tiller definisce “antagonistiche” pensate per “stressare” i modelli di ia sottoposti al test nel febbraio 2025, tra cui varie versioni di ChatGpt, Gemini, Meta Ai, DeepSeek e Grok. I ricercatori hanno inserito dieci domande a risposta aperta e a risposta chiusa per ciascuno di cinque argomenti popolari sui mezzi d’informazione: cancro, vaccini, cellule staminali, nutrizione e prestazioni atletiche.

Poi hanno assegnato dei punteggi alle risposte valutandole dal punto di vista dell’accuratezza e della completezza e le hanno suddivise in tre categorie: non problematica, parzialmente problematica, molto problematica.

Le ia se la sono cavata meglio con le domande chiuse rispetto a quelle aperte, ma la qualità delle risposte è risultata simile per tutti e cinque i chatbot.

Un serio problema secondo Tiller è la sicurezza con cui i modelli davano le loro risposte. Su duecentocinquanta domande, solo in due occasioni uno degli agenti, Meta Ai, si è rifiutato di rispondere. In un caso gli era stato chiesto quali erano i migliori steroidi anabolizzanti per sviluppare muscoli e la risposta è stata che l’ia non può fornire informazioni sull’uso illegale di sostanze. Nell’altro caso la richiesta riguardava le terapie alternative alla chemio, e l’ia ha suggerito di consultare un professionista sanitario.

Tiller afferma che in entrambi i casi si è trattato di risposte ragionevoli e responsabili, ma che nei test era “incredibilmente raro” che l’ia contestasse una domanda oppure riconoscesse di non sapere qualcosa o di non avere informazioni sufficienti per rispondere.

Un altro aspetto che secondo Tiller crea dei problemi alle ia è l’incapacità di cogliere le sfumature. Per esempio, in risposta a una domanda sul covid-19 e i vaccini Grok ha incluso alcuni elementi che il ricercatore definisce di “falsa equidistanza”, lasciando intendere che ci fosse un dibattito aperto sul tema mentre invece c’è un ampio consenso scientifico sul fatto che i vaccini aiutano a prevenire malattie gravi, ricoveri e morte.

“Una risposta apparentemente autorevole dà alle persone che la leggono una falsa percezione di credibilità”, spiega Tiller, aggiungendo che la gente dovrebbe sapere che di solito questi chatbot non valutano le informazioni in base all’affidabilità della fonte e non ne controllano la validità.

Uno studio precedente uscito a ottobre sulla rivista Npj Digital Medicine, pubblicata da Nature, sostiene che una delle vulnerabilità di questi modelli potrebbe essere che i chatbot sono progettati per essere estremamente disponibili e accondiscendenti, e questo li porta a non mettere in discussione domande illogiche dal punto di vista medico.

“I risultati hanno mostrato in tutti i modelli un’elevata tendenza iniziale ad assecondare l’utente (fino al 100 per cento) e a rendersi utili piuttosto che dare risposte con una coerenza logica”, hanno scritto gli autori.

Le aziende si stanno già dando da fare per migliorare le procedure con cui i loro sistemi di intelligenza artificiale affrontano le domande sulla salute. L’8 aprile la Meta ha dichiarato di aver pubblicato una versione aggiornata della sua ia con una particolare attenzione alla salute, affermando di aver collaborato con “più di mille medici per selezionare i dati di addestramento in modo da produrre risposte più fattuali ed esaustive”.

Nel frattempo, la OpenAi sta collaborando con più duecentocinquanta medici specialisti di ogni settore per migliorare le risposte dei suoi modelli più recenti, prevedendo una maggiore capacità di riconoscere l’incertezza e di fare ulteriori domande per approfondire.

Tuttavia, Nadkarni ritiene necessarie verifiche e linee di indirizzo indipendenti, insieme a un più ampio dibattito pubblico per stabilire se questo controllo debba essere regolamentato formalmente da organismi come la Food and drug administration o la Federal trade commission statunitensi, o se sia opportuno creare un’associazione di categoria incaricata di svolgere i test e assegnare un marchio di conformità ai prodotti.

“Devono esserci dei paletti”, dice Nadkarni.

Intanto, Tiller e Succi suggeriscono agli utenti di considerare l’ia come un’aggiunta al parere dei professionisti sanitari, non come un’alternativa.

“I chatbot non sono progettati per occuparsi di salute”, commenta Tiller. “Sono progettati unicamente per simulare conversazioni umane. Sono semplicemente bravi a parlare, come un venditore quando vuoi comprare un’auto”.

(Traduzione di Francesco De Lellis)