Scott Winters pensó que tenía gripe. En cambio, casi muere porque confió en un chatbot para decirle lo contrario.
El ex pastor de Florida está demandando a OpenAI y Sam Altman en el Tribunal Superior del condado de San Francisco. ¿Su reclamo? El consejo médico de ChatGPT contribuyó a la embolia pulmonar que casi lo mata.
Esto es lo que sucedió en 2025. Winters se quejó de mareos. Su presión arterial era inestable. Se dirigió a ChatGPT-4o.
La IA no entró en pánico. Descartó los síntomas como menores. Le dijo a Winters que permaneciera reclinado. El robot calculó que necesitaba entre ocho y diez “episodios” más antes de que su condición justificara una preocupación real.
Semanas después, un coágulo de sangre se alojó en sus pulmones. Uno de los propios médicos de Winters relacionó el coágulo con la inmovilidad prolongada que el chatbot había recomendado específicamente.
El día que el dolor alcanzó su punto máximo, Winters preguntó si la sensibilidad en la ingle requería una visita a urgencias. El chatbot no llamó a una ambulancia. Invocó su fe. Según se informa, decía: “Dios no diseñó tu cuerpo para fallar sin cesar”.
Winters casi muere. OpenAI dice que sus herramientas no son dispositivos médicos y que los usuarios no deberían confiar en ellas para realizar diagnósticos. Los abogados de Winters no están de acuerdo. Quieren daños financieros. También quieren pausar ChatGPT Health. Quieren una evaluación de seguridad independiente.
Esta no es la primera vez que se culpa a una IA por una crisis de salud.
En mayo, una pareja de Texas demandó a Open AI después de que su hijo sufriera una sobredosis. El argumento: su hijo había buscado información sobre drogas en ChatGPT e ignoró las barreras de seguridad porque el robot proporcionaba respuestas útiles.
Estas demandas ponen a prueba una cuestión difícil. ¿Cuánta responsabilidad asumen las empresas de IA cuando los usuarios buscan ayuda médica o psicológica en una crisis?
Lo que realmente dice la investigación sobre el diagnóstico de IA
El caso Winters parece una pesadilla. Pero una investigación controlada sugiere que la historia tiene más matices. En entornos rígidos y programados, la IA es terriblemente buena para diagnosticar.
Un estudio de JAMA Internal Medicine de 2024 comparó GPT-4 con médicos humanos. La prueba incluyó 20 casos clínicos calificados mediante la escala de razonamiento clínico r-IDEA.
GPT-4 obtuvo un puntaje perfecto de 10 sobre 10. La asistencia promedió 9. Los residentes promediaron 8.
En realidad, el chatbot estaba menos completamente equivocado que los residentes humanos.
Un estudio de seguimiento en JAMA Network Open superó los límites. Los investigadores evaluaron a 50 médicos en cinco casos extremadamente difíciles. ChatGPT, funcionando solo, alcanzó una precisión del 90%. Los médicos que trabajaban solos obtuvieron una puntuación del 74%. Los médicos que utilizaron ChatGPT como herramienta obtuvieron una puntuación del 76%.
El asistente de IA no ayudó mucho. ¿Por qué? Muchos médicos ignoraron o cuestionaron lo que sugería el robot.
Estudios más amplios refuerzan esta brecha. Nature publicó un trabajo en 2025 sobre el modelo AMIE de Google. Probó 302 casos complejos del mundo real contra 20 médicos. AMIE encontró el diagnóstico correcto el 59% de las veces. Los médicos sin asistencia alcanzaron el 34%. Los médicos que utilizaron AMIE superaron a los que utilizaron motores de búsqueda estándar.
Un metaanálisis de 50 estudios de npj Digital Medicine concluyó que la IA generalmente funciona de manera comparable a la de los médicos, y a veces mejor, en tareas estandarizadas.
Pero hay una gran advertencia. Estos estudios utilizan viñetas escritas. Indicaciones estructuradas. Casos cuidadosamente seleccionados. No son la vida real.
Dónde el diagnóstico de IA falla a los usuarios del mundo real
Los consejos del mundo real se ven diferentes. Implica semanas de conversación espontánea. Se trata de información incompleta. No implica ningún examen físico.
Las investigaciones muestran que la IA tiene dificultades cuando el guión desaparece.
Un estudio de NEJM AI creó un punto de referencia de 750 preguntas. Utilizó pruebas de concordancia de guiones, que miden cómo la nueva información debería cambiar un diagnóstico en condiciones de incertidumbre. Enfrentó a diez modelos líderes de IA con 1.500 profesionales médicos.
O3 de OpenAI, el de mejor desempeño, logró solo un 68% de precisión. Esto está por debajo del nivel de los residentes mayores. Esto es irónico. Estos mismos modelos superan los exámenes de licencia médica de opción múltiple.
Los puntajes altos en las pruebas no equivalen a un juicio clínico sólido en la confusa realidad de un cuerpo enfermo.
El problema empeora con las alucinaciones.
Un estudio en Medicina de las Comunicaciones alimentó a seis chatbots, incluidos GPT-4o y DeepSeek, con viñetas clínicas sembradas de mentiras. Pruebas de laboratorio inventadas. Enfermedades inventadas.
En condiciones predeterminadas, los modelos aceptaron estas mentiras entre el 50% y el 83% de las veces. Describieron con seguridad las enfermedades inventadas como hechos. Un simple mensaje que advierte a la IA de que la entrada podría ser falsa ayudó. Pero eso no detuvo los errores.
Luego está el riesgo de omisión.
Un equipo dirigido por Stanford calificó 20 modelos en 1.100 casos. No solo buscaban precisión diagnóstica. Buscaron daños potenciales.
La aplicación directa del consejo supuso un riesgo de daño grave o muerte en el 24,6% de los casos. Más del 80% de estos errores fueron omisiones. La IA no pudo detectar algo peligroso. Se quedó en silencio.
La experiencia de Winters refleja este silencio. Mayor tranquilidad en lugar de derivación urgente. Un chatbot que te dice que te quedes quieto mientras se te coagulan las piernas.
El problema de la implementación, no sólo el problema del modelo
Una encuesta Sermo de 2025 realizada a más de 1.000 médicos confirma el temor. Al 94% de los médicos les preocupa que los pacientes utilicen la IA para recibir asesoramiento médico. Los diagnósticos erróneos y el retraso en la atención son las principales preocupaciones.
La investigación crea una imagen dividida.
¿En tareas estrechas y bien definidas? La IA iguala o supera a los médicos.
¿En interacciones humanas abiertas y de alto riesgo? Falla. Alucina. Omite advertencias críticas.
Para los sistemas de salud y las empresas de tecnología, esto no es sólo una cuestión de competencia. Es un fracaso de diseño. El mismo modelo que superó el caso de prueba puede narrar con confianza una sentencia de muerte inventada o convencer a un usuario asustado para que espere demasiado.
El potencial de diagnóstico de la IA es real. En algunas métricas estructuradas, supera al médico promedio.
Pero se desconoce si esa promesa sobrevive al contacto con el comportamiento humano. Las personas no interactúan con la IA como los examinados estandarizados. Escriben síntomas a las 3 a.m. con dolor. Quieren tranquilidad. Son vulnerables.
Los tribunales, los hospitales y los investigadores todavía tienen mucho que resolver. La próxima ola de casos decidirá si esa brecha se cierra o si se amplía hasta convertirse en un abismo.
