Scott Winters dacht dat hij griep had. In plaats daarvan stierf hij bijna omdat hij erop vertrouwde dat een chatbot hem iets anders zou vertellen.
De voormalige pastoor uit Florida klaagt OpenAI en Sam Altman aan bij het San Francisco County Superior Court. Zijn bewering? Het medische advies van ChatGPT droeg bij aan de longembolie die hem bijna het leven kostte.
Dit is wat er in 2025 gebeurde. Winters klaagde over duizeligheid. Zijn bloeddruk was onstabiel. Hij wendde zich tot ChatGPT-4o.
De AI raakte niet in paniek. Het deed de symptomen af als gering. Het vertelde Winters dat hij aan een fauteuil moest blijven zitten. De bot berekende dat hij nog acht tot tien ‘afleveringen’ nodig had voordat zijn toestand echte zorgen rechtvaardigde.
Weken later bleef er een bloedstolsel in zijn longen zitten. Een van Winters’ eigen artsen bracht het stolsel in verband met de langdurige immobiliteit die de chatbot specifiek had aanbevolen.
Op de dag dat de pijn zijn hoogtepunt bereikte, vroeg Winters of de gevoelige lies een bezoek aan de spoedeisende hulp vereiste. De chatbot heeft geen ambulance gebeld. Het deed een beroep op zijn geloof. Er stond naar verluidt: “God heeft je lichaam niet ontworpen om eindeloos te falen.”
Winters stierf bijna. OpenAI zegt dat zijn tools geen medische apparaten zijn en dat gebruikers er niet op moeten vertrouwen voor een diagnose. De advocaten van Winters zijn het daar niet mee eens. Ze willen financiële schadevergoeding. Ze willen ChatGPT Health ook pauzeren. Ze willen een onafhankelijke veiligheidsevaluatie.
Dit is niet de eerste keer dat een AI de schuld krijgt van een gezondheidscrisis.
In mei klaagde een echtpaar uit Texas Open AI aan nadat hun zoon een overdosis had genomen. Het argument: hun zoon had gezocht naar drugsinformatie op ChatGPT en de veiligheidsrails genegeerd omdat de bot bruikbare antwoorden gaf.
Deze rechtszaken stellen een zware vraag op de proef. Hoeveel verantwoordelijkheid dragen AI-bedrijven als gebruikers tijdens een crisis medische of psychologische hulp zoeken?
Wat het onderzoek feitelijk zegt over AI-diagnostiek
De zaak Winters voelt als een nachtmerrie. Maar gecontroleerd onderzoek suggereert dat het verhaal genuanceerder ligt. In rigide, gescripte omgevingen is AI angstaanjagend goed in het stellen van diagnoses.
In een JAMA Internal Medicine -studie uit 2024 werd GPT-4 vergeleken met menselijke artsen. De test omvatte 20 klinische gevallen beoordeeld door de r-IDEA klinische redeneringsschaal.
GPT-4 scoorde een perfecte 10 op 10. Het bezoekersaantal was gemiddeld 9. Het aantal bewoners was gemiddeld 8.
De chatbot had het eigenlijk minder vaak helemaal bij het verkeerde eind dan de menselijke bewoners.
Een vervolgonderzoek in JAMA Network Open verlegde de grenzen. Onderzoekers testten 50 artsen op vijf extreem moeilijke gevallen. ChatGPT bereikte op zichzelf een nauwkeurigheid van 90%. Alleenstaande artsen scoorden 74%. Artsen die ChatGPT als hulpmiddel gebruiken, scoorden 76%.
De AI-assistent hielp niet veel. Waarom? Veel artsen negeerden of twijfelden aan wat de bot suggereerde.
Grotere onderzoeken versterken deze kloof. Nature publiceerde in 2025 werk op basis van het AMIE-model van Google. Het testte 302 complexe praktijkgevallen tegen 20 artsen. AMIE vond in 59% van de gevallen de juiste diagnose. Niet-ondersteunde artsen bereikten 34%. Artsen die AMIE gebruikten, presteerden beter dan artsen die standaardzoekmachines gebruikten.
Een meta-analyse van 50 onderzoeken binnen npj Digital Medicine concludeerde dat AI over het algemeen vergelijkbaar presteert als artsen, en soms zelfs beter, op gestandaardiseerde taken.
Maar er is een groot voorbehoud. Bij deze onderzoeken wordt gebruik gemaakt van schriftelijke vignetten. Gestructureerde aanwijzingen. Met de hand geselecteerde koffers. Ze zijn niet het echte leven.
Waar AI-diagnose faalt voor echte gebruikers
Advies in de echte wereld ziet er anders uit. Het gaat om weken van ongeschreven gesprekken. Het gaat om onvolledige informatie. Er is geen lichamelijk onderzoek bij betrokken.
Uit onderzoek blijkt dat AI het moeilijk heeft als het script verdwijnt.
In een NEJM AI -onderzoek werd een benchmark met 750 vragen opgesteld. Er werd gebruik gemaakt van scriptconcordantietests, die meten hoe nieuwe informatie een diagnose onder onzekerheid zou moeten verschuiven. Het zette tien toonaangevende AI-modellen tegenover 1.500 medische professionals.
OpenAI’s o3, de best presterende, behaalde slechts 68% nauwkeurigheid. Dat is onder het niveau van senioren. Dit is ironisch. Deze zelfde modellen slagen voor meerkeuzeexamens voor medische licenties.
Hoge testscores zijn niet hetzelfde als een gezond klinisch oordeel in de rommelige realiteit van een ziek lichaam.
Het probleem wordt erger met hallucinaties.
Een onderzoek in de Communicatiegeneeskunde voedde zes chatbots – waaronder GPT-4o en DeepSeek – klinische vignetten vol leugens. Laboratoriumtests uitgevonden. Verzonnen ziekten.
Onder standaardomstandigheden accepteerden de modellen deze leugens 50% tot 83% van de tijd. Vol vertrouwen beschreven ze verzonnen ziekten als feiten. Een eenvoudige waarschuwing aan de AI dat de invoer mogelijk vals was, hielp. Maar het hield de fouten niet tegen.
Dan is er het verzuimrisico.
Een door Stanford geleid team scoorde 20 modellen op 1.100 gevallen. Ze waren niet alleen op zoek naar diagnostische nauwkeurigheid. Ze zochten naar mogelijke schade.
Bij directe toepassing van het advies riskeerde men in 24,6% van de gevallen ernstig letsel of de dood. Ruim 80% van deze fouten bestond uit weglatingen. De AI slaagde er niet in iets gevaarlijks te signaleren. Het bleef stil.
De ervaring van Winters weerspiegelt deze stilte. Escalerende geruststelling in plaats van dringende verwijzing. Een chatbot die je vertelt stil te zitten terwijl je benen stollen.
Het implementatieprobleem, niet alleen het modelprobleem
Een Sermo-enquête uit 2025 onder meer dan 1.000 artsen bevestigt deze angst. 94% van de artsen maakt zich zorgen over het feit dat patiënten AI gebruiken voor medisch advies. Verkeerde diagnoses en vertraagde zorg zijn de grootste zorgen.
Het onderzoek schept een gespleten beeld.
In beperkte, goed gedefinieerde taken? AI matcht of verslaat artsen.
In menselijke interacties met een open einde en hoge inzet? Het mislukt. Het hallucineert. Het laat kritische waarschuwingen achterwege.
Voor gezondheidszorgsystemen en technologiebedrijven is dit niet alleen een kwestie van competentie. Het is een ontwerpfout. Hetzelfde model dat de testcase heeft doorstaan, kan met vertrouwen een verzonnen doodvonnis vertellen of een bange gebruiker overhalen om te lang te wachten.
Het diagnostische potentieel van AI is reëel. In sommige gestructureerde statistieken overtreft het de gemiddelde arts.
Maar of die belofte het contact met menselijk gedrag overleeft, is onbekend. Mensen hebben geen interactie met AI zoals gestandaardiseerde testpersonen. Ze typen symptomen om 3 uur ‘s nachts van pijn. Ze willen geruststelling. Ze zijn kwetsbaar.
De rechtbanken, ziekenhuizen en onderzoekers moeten nog veel uitzoeken. De volgende golf van zaken zal beslissen of die kloof wordt gedicht, of groter wordt totdat er een kloof ontstaat.
