Scott Winters si myslel, že má chřipku. Místo toho málem zemřel, když uvěřil chatbotovi, který mu řekl opak.
Bývalý floridský pastor žaluje OpenAI a Sam Altman u okresního soudu v San Franciscu. Jeho tvrzení je, že lékařské rady poskytnuté ChatGPT přispěly k plicní embolii, která ho málem zabila.
To se stalo v roce 2025. Winters si stěžoval na závratě. Měl nestabilní krevní tlak. Obrátil se na ChatGPT-4o.
AI nepropadala panice. Příznaky považoval za méně závažné. Bot poradil Wintersovi, aby zůstal ležet v houpacím křesle. AI spočítala, že potřebuje přežít osm až deset dalších „epizod“, než se jeho stav stane důvodem ke skutečnému poplachu.
O několik týdnů později se mu v plicích usadila krevní sraženina. Jeden z Wintersových lékařů spojil krevní sraženinu s prodlouženou nehybností, což chatbot výslovně doporučil.
V den, kdy bolest vyvrcholila, se Winters zeptal, zda bolest v jeho tříslech opravňuje zavolat sanitku. Chatbot nezavolal záchranku. Odvolával se na svou víru. Robot údajně řekl: “Bůh nenavrhl tvé tělo pro nekonečné selhání.”
Winters málem zemřel. OpenAI říká, že její nástroje nejsou lékařská zařízení a uživatelé by se na ně neměli spoléhat při diagnostice. Wintersovi právníci nesouhlasí. Požadují finanční kompenzaci. Chtějí také pozastavit službu ChatGPT Health. Vyžadují nezávislé posouzení bezpečnosti.
Není to poprvé, co byla AI obviňována z lékařské krize.
V květnu texaský pár zažaloval OpenAI poté, co se jejich syn předávkoval. Argument žalobců: Jejich syn hledal informace o drogách na ChatGPT a ignoroval bezpečnostní opatření, protože bot poskytoval jasné odpovědi.
Tyto soudní spory vyvolávají složitý problém. Jakou odpovědnost mají společnosti AI, když uživatelé vyhledávají lékařskou nebo psychologickou pomoc v krizi?
Co výzkum skutečně říká o diagnostice AI
Případ Winters vypadá jako noční můra. Kontrolované studie však naznačují, že obraz je mnohem jemnější. V drsných, napsaných podmínkách je AI úžasně dobrá v diagnostice.
Studie z roku 2024 v JAMA Internal Medicine porovnávala GPT-4 s lékaři. Test zahrnoval 20 klinických případů hodnocených pomocí škály klinické kauzality r-IDEA.
GPT-4 získal perfektní skóre 10 z 10. Zkušení lékaři (ošetřující) dosáhli v průměru 9. Rezidenti dosáhli v průměru 8.
Chatbot se méně často úplně mýlil než místní lékaři.
Další výzkum v JAMA Network Open testoval limity. Vědci testovali 50 lékařů na pěti extrémně těžkých případech. ChatGPT, pracující samostatně, dosáhl 90% přesnosti. Lékaři pracující bez asistentů vykázali výsledek 74 %. Lékaři používající ChatGPT jako nástroj vykázali míru 76 %.
Asistent AI moc nepomohl. Proč? Mnoho lékařů ignorovalo nebo pochybovalo o botových doporučeních.
Velké studie tuto mezeru potvrzují. Časopis Nature zveřejnil v roce 2025 článek o modelu AMIE společnosti Google. Testovala 302 komplexních reálných případů zahrnujících 20 lékařů. AMIE zjistila správnou diagnózu v 59 % případů. Bez pomoci lékaři vykázali výsledek 34 %. Lékaři, kteří používali AMIE, překonali ty, kteří používali standardní vyhledávače.
Metaanalýza 50 studií v časopise npj Digital Medicine dospěla k závěru, že umělá inteligence obecně funguje srovnatelně a někdy lépe než lékaři ve standardizovaných úkolech.
Je tu ale důležité omezení. Tyto studie využívají písemné kazuistiky. Strukturované dotazy. Vybrané případy. Tohle není skutečný život.
Kde diagnostika umělé inteligence selhává u skutečných uživatelů
Skutečná rada vypadá jinak. Zahrnuje týdny nespisovné komunikace. Obsahuje neúplné informace. Nezahrnuje fyzické vyšetření.
Výzkum ukazuje, že AI má problémy, když skript zmizí.
Studie v NEJM AI vytvořila testovací banku 750 otázek. Bylo použito testování konzistence scénáře, které měří, jak by nové informace měly změnit diagnózu za nejistoty. Soutěžilo v něm deset předních modelů umělé inteligence a 1500 lékařských expertů.
OpenAI o3, lídr ve výsledcích, ukázal přesnost pouze 68%. To je pod úrovní seniorů. Je to ironické. Tyto stejné modely vynikají ve vícenásobných lékařských licenčních zkouškách.
Vysoké výsledky testů se nerovnají zdravému klinickému úsudku v chaotické realitě nemocného těla.
Problém je umocněn halucinacemi.
Studie v Communications Medicine poskytla šesti chatbotům – včetně GPT-4o a DeepSeek – klinické případy obsahující lži. Fiktivní laboratorní testy. Vymyšlené nemoci.
Při standardním nastavení modely akceptovaly tuto lež v 50–83 % případů. Sebevědomě popisovali smyšlené nemoci jako fakta. Pomohl jednoduchý dotaz varující AI, že vstup může být nepravdivý. Chybám to ale nezabránilo.
Pak existuje riziko opomenutí.
Tým pod vedením Stanfordu hodnotil 20 modelů na 1100 případech. Hledali víc než jen diagnostickou přesnost. Posuzovali možné škody.
Přímé využití rad s sebou neslo riziko vážné újmy nebo smrti ve 24,6 % případů. Více než 80 % těchto chyb bylo způsobeno opomenutím. AI nezaznamenala nic nebezpečného. Neřekl nic.
Wintersova zkušenost odráží toto ticho. Větší ujištění místo naléhavého doporučení na kliniku. Chatbot, který vám řekne, abyste seděli, zatímco se vám v nohách tvoří krevní sraženiny.
Problém s implementací, nejen problém s modelem
Průzkum společnosti Sermo z roku 2025 mezi více než 1000 lékaři tyto obavy potvrzuje. 94 % lékařů se obává pacientů, kteří používají AI k lékařskému poradenství. Špatná diagnóza a zpoždění léčby jsou hlavními obavami.
Výzkum vykresluje rozdvojený obraz.
V úzkých, jasně definovaných úkolech? AI je srovnatelná nebo lepší než lékaři.
V otevřených, vysoce odpovědných lidských interakcích? Nedaří se mu. Má halucinace. Chybí mu kritická varování.
Pro zdravotnické systémy a technologické společnosti to není jen otázka kompetence. Toto je konstrukční chyba. Stejný model, který projde testem na výbornou, může sebevědomě mluvit o fiktivním rozsudku smrti nebo přesvědčit vyděšeného uživatele, aby čekal příliš dlouho.
Diagnostický potenciál AI je skutečný. V některých strukturovaných metrikách je nad průměrem lékaře.
Zda však tento příslib přežije kontakt s lidským chováním, není známo. Lidé komunikují s umělou inteligencí ne jako standardizovaní účastníci testů. Do příznaků vstoupí ve 3 hodiny ráno, když mají bolest. Chtějí pohodlí. Jsou zranitelní.
Soudy, nemocnice a vědci se mají ještě hodně co učit. O tom, zda se tato propast zúží, nebo rozšíří v propast, rozhodne příští vlna případů.
