Scott Winters myślał, że ma grypę. Zamiast tego prawie umarł, ufając chatbotowi, który powiedział mu inaczej.
Były pastor z Florydy pozywa OpenAI i Sama Altmana przed sądem rejonowym hrabstwa San Francisco. Twierdzi, że porady lekarskie udzielone przez ChatGPT przyczyniły się do zatorowości płucnej, która prawie go zabiła.
Tak właśnie stało się w 2025 roku. Winters skarżył się na zawroty głowy. Miał niestabilne ciśnienie krwi. Zwrócił się do ChatGPT-4o.
AI nie wpadła w panikę. Uznał objawy za drobne. Bot poradził Wintersowi, aby pozostał w fotelu bujanym. Sztuczna inteligencja obliczyła, że musi przetrwać jeszcze osiem do dziesięciu „odcinków”, zanim jego stan stanie się powodem do prawdziwego niepokoju.
Kilka tygodni później w jego płucach utkwił skrzep krwi. Jeden z lekarzy Wintersa powiązał zakrzep z długotrwałym bezruchem, co wyraźnie zalecił chatbot.
W dniu, w którym ból osiągnął szczyt, Winters zapytał, czy ból w pachwinie uzasadnia wezwanie karetki. Chatbot nie wezwał karetki. Odniósł się do swojej wiary. Bot podobno powiedział: „Bóg nie zaprojektował twojego ciała z myślą o niekończących się niepowodzeniach”.
Winters prawie umarł. OpenAI twierdzi, że jego narzędzia nie są urządzeniami medycznymi i użytkownicy nie powinni na nich polegać podczas diagnozowania. Prawnicy Wintersa nie zgadzają się z tym. Żądają rekompensaty finansowej. Chcą także zawiesić usługę ChatGPT Health. Wymagają niezależnej oceny bezpieczeństwa.
To nie pierwszy raz, kiedy sztuczną inteligencję obwinia się za kryzys medyczny.
W maju małżeństwo z Teksasu pozwało OpenAI po przedawkowaniu ich syna. Argument powodów: Ich syn szukał informacji o narkotykach w serwisie ChatGPT i ignorował środki bezpieczeństwa, ponieważ bot udzielał jasnych odpowiedzi.
Pozwy te poruszają złożony problem. Jaką odpowiedzialność ponoszą firmy zajmujące się sztuczną inteligencją, gdy użytkownicy szukają pomocy medycznej lub psychologicznej w sytuacji kryzysowej?
Co badania naprawdę mówią o diagnostyce AI
Sprawa Wintersa wydaje się koszmarem. Jednak kontrolowane badania sugerują, że obraz jest bardziej zróżnicowany. W trudnych, scenariuszowych warunkach sztuczna inteligencja jest zadziwiająco dobra w diagnozowaniu.
W badaniu przeprowadzonym w 2024 r. w JAMA Internal Medicine porównano GPT-4 z wynikami lekarzy. Do testu włączono 20 przypadków klinicznych ocenianych za pomocą skali przyczynowości klinicznej r-IDEA.
GPT-4 uzyskał doskonały wynik 10 na 10. Doświadczeni lekarze (opiekujący się) uzyskali średnio 9. Rezydenci uzyskali średnio 8.
Chatbot rzadziej całkowicie się mylił niż lekarze-rezydentzy.
Dodatkowe badania w JAMA Network Open sprawdzały granice. Naukowcy przetestowali 50 lekarzy w pięciu niezwykle trudnych przypadkach. ChatGPT, pracując samodzielnie, osiągnął 90% dokładności. Lekarze pracujący bez asystentów uzyskali wynik na poziomie 74%. Lekarze używający ChatGPT jako narzędzia wykazali odsetek 76%.
Asystent AI niewiele pomógł. Dlaczego? Wielu lekarzy zignorowało zalecenia bota lub poddawało je w wątpliwość.
Duże badania potwierdzają tę lukę. W czasopiśmie Nature opublikowano artykuł z 2025 r. na temat modelu AMIE firmy Google. Przetestowała 302 złożone, rzeczywiste przypadki z udziałem 20 klinicystów. AMIE postawiło prawidłową diagnozę w 59% przypadków. Bez pomocy klinicyści pokazali wynik 34%. Lekarze korzystający z AMIE osiągnęli lepsze wyniki niż lekarze korzystający ze standardowych wyszukiwarek.
Z metaanalizy 50 badań opublikowanej w czasopiśmie npj Digital Medicine wynika, że sztuczna inteligencja na ogół radzi sobie porównywalnie z lekarzami, a czasem lepiej, w przypadku standardowych zadań.
Istnieje jednak ważne ograniczenie. W badaniach tych wykorzystuje się pisemne opisy przypadków. Zapytania strukturalne. Wybrane przypadki. To nie jest prawdziwe życie.
Tam, gdzie diagnostyka AI zawodzi prawdziwych użytkowników
Prawdziwe porady wyglądają inaczej. Obejmuje tygodnie nieskryptowanej komunikacji. Zawiera niekompletne informacje. Nie obejmuje badania fizykalnego.
Badania pokazują, że sztuczna inteligencja ma problemy, gdy znika scenariusz.
W badaniu przeprowadzonym w NEJM AI stworzono bank testowy składający się z 750 pytań. Zastosowano badanie spójności scenariuszy, które mierzy, jak nowe informacje powinny zmienić diagnozę w warunkach niepewności. Rywalizowało w nim dziesięć wiodących modeli AI i 1500 ekspertów medycznych.
Lider pod względem wyników, OpenAI o3, wykazał dokładność na poziomie zaledwie 68%. To poniżej poziomu seniorów. To ironiczne. Te same modele doskonale radzą sobie z egzaminami licencyjnymi medycznymi wielokrotnego wyboru.
Wysokie wyniki testów nie są równoznaczne z rozsądną oceną kliniczną w brudnej rzeczywistości chorego ciała.
Problem pogłębiają halucynacje.
Badanie przeprowadzone w Communications Medicine dostarczyło sześciu chatbotom — w tym GPT-4o i DeepSeek — przypadków klinicznych zawierających kłamstwa. Fikcyjne testy laboratoryjne. Wymyślone choroby.
Przy standardowych ustawieniach modele akceptowały to kłamstwo w 50–83% przypadków. Z przekonaniem opisywali fikcyjne choroby jako fakty. Pomogło proste zapytanie ostrzegające sztuczną inteligencję, że wprowadzone dane mogą być fałszywe. Nie zapobiegło to jednak błędom.
Istnieje wówczas ryzyko pominięcia.
Zespół kierowany przez Stanford ocenił 20 modeli na 1100 przypadkach. Oczekiwali czegoś więcej niż tylko dokładności diagnostycznej. Ocenili potencjalną szkodę.
Bezpośrednie skorzystanie z porady w 24,6% przypadków wiązało się z ryzykiem poważnych obrażeń lub śmierci. Ponad 80% tych błędów wynikało z zaniedbań. Sztuczna inteligencja nie zasygnalizowała niczego niebezpiecznego. Nic nie powiedział.
Doświadczenia Wintersa odzwierciedlają tę ciszę. Większa pewność zamiast pilnego skierowania do kliniki. Chatbot, który każe Ci siedzieć spokojnie, podczas gdy w nogach tworzą się skrzepy krwi.
Problem z implementacją, a nie tylko problem z modelem
Badanie Sermo przeprowadzone w 2025 r. wśród ponad 1000 lekarzy potwierdza te obawy. 94% lekarzy niepokoi się, że pacjenci korzystają ze sztucznej inteligencji w celu uzyskania porad medycznych. Głównymi obawami są błędna diagnoza i opóźnienia w leczeniu.
Badania pokazują rozdwojony obraz.
W wąskich, jasno określonych zadaniach? Sztuczna inteligencja jest porównywalna lub lepsza od lekarzy.
W otwartych, wysoce odpowiedzialnych interakcjach międzyludzkich? Nie udaje mu się. Ma halucynacje. Tęskni za krytycznymi ostrzeżeniami.
W przypadku systemów opieki zdrowotnej i firm technologicznych nie jest to tylko kwestia kompetencji. Jest to błąd projektowy. Ten sam model, który pomyślnie przeszedł test, może śmiało mówić o fikcyjnym wyroku śmierci lub przekonać przestraszonego użytkownika, aby zbyt długo czekał.
Potencjał diagnostyczny sztucznej inteligencji jest realny. W niektórych ustrukturyzowanych wskaźnikach przewyższa przeciętnego lekarza.
Nie wiadomo jednak, czy obietnica ta przetrwa kontakt z ludzkim zachowaniem. Ludzie wchodzą w interakcję ze sztuczną inteligencją, a nie jak znormalizowani uczestnicy testów. Objawy pojawiają się o 3 nad ranem, kiedy odczuwają ból. Chcą komfortu. Są bezbronni.
Sądy, szpitale i badacze muszą się jeszcze wiele nauczyć. Następna fala spraw zadecyduje, czy luka ta zwęzi się, czy też rozszerzy, tworząc przepaść.
