Scott Winters pensou que estava gripado. Em vez disso, ele quase morreu porque confiou em um chatbot para lhe dizer o contrário.
O ex-pastor da Flórida está processando a OpenAI e Sam Altman no Tribunal Superior do Condado de São Francisco. Sua reivindicação? A orientação médica do ChatGPT contribuiu para a embolia pulmonar que quase o matou.
Aqui está o que aconteceu em 2025. Winters reclamou de tontura. Sua pressão arterial estava instável. Ele recorreu ao ChatGPT-4o.
A IA não entrou em pânico. Ele descartou os sintomas como menores. Disse a Winters para permanecer na poltrona reclinável. O bot calculou que precisava de mais oito a dez “episódios” antes que sua condição justificasse uma preocupação real.
Semanas depois, um coágulo sanguíneo se alojou em seus pulmões. Um dos médicos de Winters relacionou o coágulo à imobilidade prolongada que o chatbot recomendou especificamente.
No dia em que a dor atingiu o pico, Winters perguntou se a sensibilidade na virilha exigia uma visita ao pronto-socorro. O chatbot não chamou uma ambulância. Invocou sua fé. Dizia-se que dizia: “Deus não projetou seu corpo para falhar indefinidamente”.
Winters quase morreu. A OpenAI afirma que suas ferramentas não são dispositivos médicos e os usuários não devem confiar nelas para diagnóstico. Os advogados de Winters discordam. Eles querem danos financeiros. Eles também querem pausar o ChatGPT Health. Eles querem uma avaliação de segurança independente.
Esta não é a primeira vez que uma IA é responsabilizada por uma crise de saúde.
Em maio, um casal do Texas processou a Open AI depois que seu filho teve uma overdose. O argumento: o filho deles pesquisou informações sobre drogas no ChatGPT e ignorou as proteções de segurança porque o bot forneceu respostas úteis.
Esses processos testam uma questão pesada. Quanta responsabilidade assumem as empresas de IA quando os utilizadores procuram ajuda médica ou psicológica numa crise?
O que a pesquisa realmente diz sobre diagnósticos de IA
O caso Winters parece um pesadelo. Mas pesquisas controladas sugerem que a história tem mais nuances. Em ambientes rígidos e com scripts, a IA é terrivelmente boa em diagnósticos.
Um estudo de 2024 JAMA Internal Medicine comparou o GPT-4 a médicos humanos. O teste incluiu 20 casos clínicos avaliados pela escala de raciocínio clínico r-IDEA.
GPT-4 obteve uma pontuação perfeita de 10 em 10. A frequência foi em média 9. Os residentes tiveram uma média de 8.
Na verdade, o chatbot estava menos completamente errado do que os residentes humanos.
Um estudo de acompanhamento no JAMA Network Open ultrapassou os limites. Os pesquisadores testaram 50 médicos em cinco casos extremamente difíceis. O ChatGPT, operando sozinho, atingiu 90% de precisão. Os médicos que trabalham sozinhos pontuaram 74%. Os médicos que usam o ChatGPT como ferramenta obtiveram pontuação de 76%.
O assistente de IA não ajudou muito. Por que? Muitos médicos desconsideraram ou questionaram o que o bot sugeria.
Estudos maiores reforçam essa lacuna. Nature publicou trabalho em 2025 sobre o modelo AMIE do Google. Foram testados 302 casos complexos do mundo real contra 20 médicos. AMIE encontrou o diagnóstico correto em 59% das vezes. Médicos não assistidos atingiram 34%. Os médicos que usaram o AMIE superaram aqueles que usaram mecanismos de pesquisa padrão.
Uma meta-análise de 50 estudos da npj Digital Medicine concluiu que a IA geralmente tem um desempenho comparável ao dos médicos, e às vezes melhor, em tarefas padronizadas.
Mas há uma advertência enorme. Esses estudos usam vinhetas escritas. Prompts estruturados. Casos selecionados a dedo. Eles não são a vida real.
Onde o diagnóstico de IA falha para usuários do mundo real
Os conselhos do mundo real parecem diferentes. Envolve semanas de conversa improvisada. Envolve informações incompletas. Não envolve nenhum exame físico.
A pesquisa mostra que a IA enfrenta dificuldades quando o script desaparece.
Um estudo NEJM AI construiu um benchmark de 750 perguntas. Utilizou testes de concordância de scripts, que medem como novas informações devem mudar um diagnóstico sob incerteza. Colocou dez modelos líderes de IA contra 1.500 profissionais médicos.
O o3 da OpenAI, o de melhor desempenho, conseguiu apenas 68% de precisão. Isso está abaixo do nível dos residentes seniores. Isto é irônico. Esses mesmos modelos são excelentes em exames de licenciamento médico de múltipla escolha.
Pontuações altas em testes não equivalem a um julgamento clínico sólido na realidade confusa de um corpo doente.
O problema piora com as alucinações.
Um estudo em Medicina das Comunicações alimentou seis chatbots – incluindo GPT-4o e DeepSeek – vinhetas clínicas semeadas com mentiras. Testes de laboratório inventados. Doenças inventadas.
Em condições padrão, os modelos aceitaram essas mentiras de 50% a 83% das vezes. Eles descreveram com segurança as doenças inventadas como fatos. Um simples aviso avisando a IA de que a entrada pode ser falsa ajudou. Mas isso não impediu os erros.
Depois, há o risco de omissão.
Uma equipe liderada por Stanford pontuou 20 modelos em 1.100 casos. Eles não estavam apenas procurando precisão diagnóstica. Eles procuraram por danos potenciais.
A aplicação direta do conselho representava risco de danos graves ou morte em 24,6% dos casos. Mais de 80% desses erros foram omissões. A IA não conseguiu sinalizar algo perigoso. Ficou em silêncio.
A experiência de Winters reflete esse silêncio. Aumentar a garantia em vez de encaminhamento urgente. Um chatbot dizendo para você ficar quieto enquanto suas pernas coagulam.
O problema de implantação, não apenas o problema do modelo
Uma pesquisa Sermo de 2025 com mais de 1.000 médicos confirma o medo. 94% dos médicos estão preocupados com os pacientes que usam IA para aconselhamento médico. Diagnóstico incorreto e atraso no atendimento são as principais preocupações.
A pesquisa cria uma imagem dividida.
Em tarefas restritas e bem definidas? A IA iguala ou vence os médicos.
Em interações humanas abertas e de alto risco? Ele falha. Isso alucina. Ele omite avisos críticos.
Para os sistemas de saúde e as empresas tecnológicas, isto não é apenas uma questão de competência. É uma falha de design. O mesmo modelo que acertou o caso de teste pode narrar com segurança uma sentença de morte fabricada ou convencer um usuário assustado a esperar muito tempo.
O potencial de diagnóstico da IA é real. Em algumas métricas estruturadas, excede a média do médico.
Mas não se sabe se essa promessa sobrevive ao contato com o comportamento humano. As pessoas não interagem com a IA como os participantes de testes padronizados. Eles digitam sintomas às 3 da manhã com dor. Eles querem garantias. Eles são vulneráveis.
Os tribunais, os hospitais e os investigadores ainda têm muito que descobrir. A próxima vaga de casos decidirá se essa lacuna se fecha ou se se alarga até se tornar num abismo.
