Scott Winters pensait qu’il avait la grippe. Au lieu de cela, il a failli mourir parce qu’il a fait confiance à un chatbot pour lui dire le contraire.
L’ancien pasteur de Floride poursuit OpenAI et Sam Altman devant la Cour supérieure du comté de San Francisco. Sa revendication ? Les conseils médicaux de ChatGPT ont contribué à l’embolie pulmonaire qui a failli le tuer.
Voici ce qui s’est passé en 2025. Winters se plaignait de vertiges. Sa tension artérielle était instable. Il s’est tourné vers ChatGPT-4o.
L’IA n’a pas paniqué. Il a qualifié les symptômes de mineurs. Il a dit à Winters de rester assis dans un fauteuil inclinable. Le robot a calculé qu’il avait besoin de huit à dix “épisodes” supplémentaires avant que son état ne justifie de réelles inquiétudes.
Quelques semaines plus tard, un caillot de sang s’est logé dans ses poumons. L’un des médecins de Winters a lié le caillot à l’immobilité prolongée spécifiquement recommandée par le chatbot.
Le jour où la douleur a culminé, Winters a demandé si la sensibilité à l’aine nécessitait une visite aux urgences. Le chatbot n’a pas appelé d’ambulance. Cela invoquait sa foi. Il aurait déclaré : « Dieu n’a pas conçu votre corps pour qu’il échoue sans fin. »
Winters a failli mourir. OpenAI affirme que ses outils ne sont pas des dispositifs médicaux et que les utilisateurs ne devraient pas s’y fier pour établir un diagnostic. Les avocats de Winters ne sont pas d’accord. Ils veulent des dommages financiers. Ils souhaitent également suspendre ChatGPT Health. Ils veulent une évaluation indépendante de la sécurité.
Ce n’est pas la première fois qu’une IA est accusée d’être responsable d’une crise sanitaire.
En mai, un couple texan a poursuivi Open AI après une overdose de leur fils. L’argument : leur fils avait recherché des informations sur les médicaments sur ChatGPT et ignoré les garde-fous de sécurité parce que le robot fournissait des réponses utilisables.
Ces procès testent une question lourde. Quelle est la responsabilité des entreprises d’IA lorsque les utilisateurs demandent une aide médicale ou psychologique en cas de crise ?
Ce que dit réellement la recherche sur les diagnostics IA
L’affaire Winters ressemble à un cauchemar. Mais des recherches contrôlées suggèrent que l’histoire est plus nuancée. Dans des environnements rigides et scriptés, l’IA est terriblement efficace pour diagnostiquer.
Une étude JAMA Internal Medicine de 2024 a comparé le GPT-4 aux médecins humains. Le test comprenait 20 cas cliniques évalués par l’échelle de raisonnement clinique r-IDEA.
GPT-4 a obtenu une note parfaite de 10 sur 10. Les participants étaient en moyenne de 9. Les résidents en moyenne 8.
Le chatbot avait en fait moins souvent complètement tort que les résidents humains.
Une étude de suivi dans JAMA Network Open a repoussé les limites. Les chercheurs ont testé 50 médecins sur cinq cas extrêmement difficiles. ChatGPT, fonctionnant seul, a atteint une précision de 90 %. Les médecins travaillant seuls ont obtenu un score de 74 %. Les médecins utilisant ChatGPT comme outil ont obtenu un score de 76 %.
L’assistant IA n’a pas beaucoup aidé. Pourquoi? De nombreux médecins ont ignoré ou ont deviné ce que le robot suggérait.
Des études plus vastes renforcent cette lacune. Nature a publié en 2025 des travaux sur le modèle AMIE de Google. Il a testé 302 cas complexes du monde réel contre 20 cliniciens. AMIE a trouvé le bon diagnostic dans 59 % des cas. Les cliniciens non assistés ont atteint 34 %. Les médecins utilisant AMIE ont surpassé ceux utilisant les moteurs de recherche standards.
Une méta-analyse de 50 études portant sur npj Digital Medicine a conclu que l’IA fonctionne généralement de manière comparable à celle des cliniciens, et parfois mieux, sur des tâches standardisées.
Mais il y a une énorme mise en garde. Ces études utilisent des vignettes écrites. Invites structurées. Cas sélectionnés à la main. Ce n’est pas la vraie vie.
Là où le diagnostic de l’IA échoue pour les utilisateurs du monde réel
Les conseils du monde réel sont différents. Cela implique des semaines de conversations non scénarisées. Il s’agit d’informations incomplètes. Cela n’implique aucun examen physique.
La recherche montre que l’IA a du mal lorsque le script disparaît.
Une étude NEJM AI a construit un benchmark de 750 questions. Il a utilisé des tests de concordance de script, qui mesurent la manière dont les nouvelles informations devraient modifier un diagnostic en cas d’incertitude. Il a opposé dix modèles d’IA de premier plan à 1 500 professionnels de la santé.
L’o3 d’OpenAI, le plus performant, n’a réussi qu’une précision de 68 %. C’est en dessous du niveau des résidents âgés. C’est ironique. Ces mêmes modèles réussissent les examens de licence médicale à choix multiples.
Des résultats élevés aux tests n’équivalent pas à un bon jugement clinique dans la réalité désordonnée d’un corps malade.
Le problème s’aggrave avec les hallucinations.
Une étude publiée dans Communications Medicine a alimenté six chatbots, dont GPT-4o et DeepSeek, avec des vignettes cliniques semées de mensonges. Des tests de laboratoire inventés. Des maladies inventées.
Dans des conditions par défaut, les modèles acceptaient ces mensonges dans 50 à 83 % des cas. Ils ont décrit avec confiance les maladies inventées comme des faits. Une simple invite avertissant l’IA que la saisie pourrait être fausse a aidé. Mais cela n’a pas empêché les erreurs.
Il y a ensuite le risque d’omission.
Une équipe dirigée par Stanford a évalué 20 modèles sur 1 100 cas. Ils ne recherchaient pas seulement la précision du diagnostic. Ils ont recherché des dommages potentiels.
L’application directe des conseils risquait de causer des dommages graves, voire la mort, dans 24,6 % des cas. Plus de 80 % de ces erreurs étaient des omissions. L’IA n’a pas réussi à signaler quelque chose de dangereux. Il est resté silencieux.
L’expérience de Winters reflète ce silence. Rassurer progressivement au lieu d’une référence urgente. Un chatbot vous disant de rester assis pendant que vos jambes coagulent.
Le problème du déploiement, pas seulement le problème du modèle
Une enquête Sermo réalisée en 2025 auprès de plus de 1 000 médecins confirme cette crainte. 94 % des médecins s’inquiètent du fait que les patients utilisent l’IA à des fins médicales. Les erreurs de diagnostic et les retards dans les soins sont les principales inquiétudes.
La recherche crée une image divisée.
Dans des tâches étroites et bien définies ? L’IA égale ou bat les médecins.
Dans des interactions humaines ouvertes et à enjeux élevés ? Cela échoue. Ça hallucine. Il omet les avertissements critiques.
Pour les systèmes de santé et les entreprises technologiques, ce n’est pas seulement une question de compétence. C’est un échec de conception. Le même modèle qui a réussi le cas de test peut raconter en toute confiance une condamnation à mort fabriquée ou convaincre un utilisateur effrayé d’attendre trop longtemps.
Le potentiel de diagnostic de l’IA est réel. Dans certaines mesures structurées, il dépasse le médecin moyen.
Mais on ne sait pas si cette promesse survivra au contact avec le comportement humain. Les gens n’interagissent pas avec l’IA comme des candidats standardisés. Ils tapent des symptômes à 3 heures du matin dans la douleur. Ils veulent être rassurés. Ils sont vulnérables.
Les tribunaux, les hôpitaux et les chercheurs ont encore beaucoup à découvrir. La prochaine vague d’affaires décidera si cet écart se comblera ou s’il s’élargit jusqu’à devenir un gouffre.
