Scott Winters pensava di avere l’influenza. Invece, è quasi morto perché si è fidato di un chatbot che gli avrebbe detto il contrario.
L’ex pastore della Florida ha citato in giudizio OpenAI e Sam Altman presso la Corte Superiore della contea di San Francisco. La sua affermazione? I consigli medici di ChatGPT hanno contribuito all’embolia polmonare che lo ha quasi ucciso.
Ecco cosa è successo nel 2025. Winters lamentava vertigini. La sua pressione sanguigna era instabile. Si è rivolto a ChatGPT-4o.
L’intelligenza artificiale non si è lasciata prendere dal panico. Ha liquidato i sintomi come minori. Diceva a Winters di rimanere legato alla poltrona. Il bot calcolò che avrebbero avuto bisogno di altri otto-dieci “episodi” prima che le sue condizioni meritassero una reale preoccupazione.
Alcune settimane dopo, un coagulo di sangue si è depositato nei suoi polmoni. Uno dei medici di Winters ha collegato il coagulo all’immobilità prolungata che il chatbot aveva specificamente raccomandato.
Il giorno in cui il dolore raggiunse il picco, Winters chiese se la dolorabilità all’inguine richiedesse una visita al pronto soccorso. Il chatbot non ha chiamato un’ambulanza. Ha invocato la sua fede. Secondo quanto riferito, diceva: “Dio non ha progettato il tuo corpo per fallire all’infinito”.
Winters è quasi morto. OpenAI afferma che i suoi strumenti non sono dispositivi medici e gli utenti non dovrebbero fare affidamento su di essi per la diagnosi. Gli avvocati di Winters non sono d’accordo. Vogliono danni finanziari. Vogliono anche mettere in pausa ChatGPT Health. Vogliono una valutazione indipendente della sicurezza.
Questa non è la prima volta che un’intelligenza artificiale viene accusata di una crisi sanitaria.
A maggio, una coppia del Texas ha fatto causa a Open AI dopo che il figlio era andato in overdose. L’argomento: il figlio aveva cercato informazioni sui farmaci su ChatGPT e aveva ignorato le barriere di sicurezza perché il bot forniva risposte utilizzabili.
Queste cause legali mettono alla prova una domanda difficile. Quanta responsabilità hanno le aziende di intelligenza artificiale quando gli utenti cercano aiuto medico o psicologico in una crisi?
Cosa dice effettivamente la ricerca sulla diagnostica dell’intelligenza artificiale
Il caso Winters sembra un incubo. Ma la ricerca controllata suggerisce che la storia è più sfumata. In ambienti rigidi e programmati, l’intelligenza artificiale è terribilmente brava nella diagnosi.
Uno studio JAMA Internal Medicine del 2024 ha confrontato GPT-4 con medici umani. Il test ha incluso 20 casi clinici valutati secondo la scala di ragionamento clinico r-IDEA.
GPT-4 ha ottenuto un punteggio perfetto di 10 su 10. Le presenze sono state in media di 9. I residenti in media di 8.
In realtà il chatbot era meno spesso completamente sbagliato rispetto ai residenti umani.
Uno studio di follow-up condotto su JAMA Network Open ha superato i limiti. I ricercatori hanno testato 50 medici su cinque casi estremamente difficili. ChatGPT, operando da solo, ha raggiunto una precisione del 90%. I medici che lavorano da soli hanno ottenuto il 74%. I medici che utilizzano ChatGPT come strumento hanno ottenuto il 76%.
L’assistente AI non è stato di grande aiuto. Perché? Molti medici hanno ignorato o dubitato di quanto suggerito dal bot.
Studi più ampi rafforzano questo divario. Nature ha pubblicato un lavoro nel 2025 sul modello AMIE di Google. Ha testato 302 casi reali complessi contro 20 medici. AMIE ha trovato la diagnosi corretta nel 59% dei casi. I medici non assistiti raggiungono il 34%. I medici che utilizzano AMIE hanno sovraperformato quelli che utilizzano i motori di ricerca standard.
Una meta-analisi di 50 studi condotti su npj Digital Medicine ha concluso che l’intelligenza artificiale generalmente funziona in modo paragonabile a quello dei medici, e talvolta migliore, su compiti standardizzati.
Ma c’è un enorme avvertimento. Questi studi utilizzano vignette scritte. Prompt strutturati. Casi selezionati manualmente. Non sono la vita reale.
Dove la diagnosi dell’intelligenza artificiale fallisce Utenti del mondo reale
I consigli del mondo reale sembrano diversi. Implica settimane di conversazioni senza copione. Si tratta di informazioni incomplete. Non comporta alcun esame fisico.
La ricerca mostra che l’intelligenza artificiale ha difficoltà quando la sceneggiatura scompare.
Uno studio NEJM AI ha creato un benchmark di 750 domande. Ha utilizzato il test di concordanza dello script, che misura il modo in cui le nuove informazioni dovrebbero cambiare una diagnosi in condizioni di incertezza. Ha messo a confronto dieci principali modelli di intelligenza artificiale con 1.500 professionisti medici.
o3 di OpenAI, il migliore, ha gestito solo il 68% di precisione. Questo è al di sotto del livello dei residenti anziani. Questo è ironico. Questi stessi modelli superano gli esami di licenza medica a scelta multipla.
Punteggi elevati nei test non equivalgono a un buon giudizio clinico nella realtà confusa di un corpo malato.
Il problema peggiora con le allucinazioni.
Uno studio pubblicato su Communications Medicine ha alimentato sei chatbot, tra cui GPT-4o e DeepSeek, con vignette cliniche piene di bugie. Test di laboratorio inventati. Malattie inventate.
In condizioni predefinite, i modelli accettavano queste bugie dal 50% all’83% delle volte. Descrivevano con sicurezza le malattie inventate come fatti. Un semplice messaggio che avverte l’IA che l’input potrebbe essere falso ha aiutato. Ma ciò non ha fermato gli errori.
Poi c’è il rischio di omissione.
Un team guidato da Stanford ha valutato 20 modelli su 1.100 casi. Non stavano solo cercando l’accuratezza diagnostica. Cercavano potenziali danni.
L’applicazione diretta dei consigli ha comportato il rischio di danni gravi o di morte nel 24,6% dei casi. Oltre l’80% di questi errori erano omissioni. L’IA non è riuscita a segnalare qualcosa di pericoloso. Rimase in silenzio.
L’esperienza di Winters rispecchia questo silenzio. Rassicurazioni crescenti invece di rinvii urgenti. Un chatbot che ti dice di stare fermo mentre le tue gambe si coagulano.
Il problema della distribuzione, non solo il problema del modello
Un sondaggio Sermo del 2025 condotto su oltre 1.000 medici conferma la paura. Il 94% dei medici è preoccupato per i pazienti che utilizzano l’intelligenza artificiale per consulenza medica. Diagnosi errate e cure ritardate sono le preoccupazioni principali.
La ricerca crea un quadro diviso.
In compiti ristretti e ben definiti? L’intelligenza artificiale eguaglia o batte i medici.
Nelle interazioni umane aperte e ad alto rischio? Fallisce. Ha allucinazioni. Omette avvisi critici.
Per i sistemi sanitari e le aziende tecnologiche, questa non è solo una questione di competenza. È un fallimento progettuale. Lo stesso modello che ha superato il test può narrare con sicurezza una condanna a morte inventata o convincere un utente spaventato a aspettare troppo a lungo.
Il potenziale diagnostico dell’IA è reale. In alcuni parametri strutturati, supera il medico medio.
Ma non è noto se quella promessa sopravviva al contatto con il comportamento umano. Le persone non interagiscono con l’intelligenza artificiale come i partecipanti ai test standardizzati. Digitano i sintomi alle 3 del mattino per il dolore. Vogliono rassicurazioni. Sono vulnerabili.
I tribunali, gli ospedali e i ricercatori hanno ancora molto da capire. La prossima ondata di casi deciderà se quel divario si colmerà o se si allargherà fino a diventare un abisso.
