En bref
- Bowen W. a presque complètement arrêté son traitement contre l'épilepsie sur les conseils de ChatGPT. Elle est décédée début février
- Le chatbot présentait ses médecins comme des obstacles et interprétait les signes alarmants comme inoffensifs
- Ses parents poursuivent désormais OpenAI et Sam Altman pour avoir fourni des conseils médicaux sans autorisation par l'intermédiaire du chatbot
«Reste à 0 milligramme.» C’est le conseil que le chatbot d'OpenAI donne à Bowen W.*, 31 ans, qui lui demande si elle doit reprendre son médicament. Epuisée, la jeune femme confie sa fatigue à ChatGPT. Sa réponse? «Tu dois tenir le coup.»
Le 11 février 2026, Bowen W. envoie son dernier message à l'agent conversationnel. Trois jours plus tard, des connaissances découvrent la jeune femme dans son appartement de Seattle. En visioconférence depuis la Chine, ses parents assistent, impuissants, aux tentatives des secours pour la réanimer. En vain.
Les médecins légistes concluent à une mort subite et inattendue liée à une crise d'épilepsie. Ils estiment que Bowen W. est décédée le 12 février. Dans son sang, la concentration de lamotrigine, son médicament contre les convulsions, ne représente qu’environ un cinquième de la dose minimale efficace.
270'000 messages
Diagnostiquée une dizaine d’années plus tôt, Bowen W. travaillait comme développeuse de logiciels chez Amazon et avait appris à vivre avec sa maladie. Mais, depuis 2021, les crises se sont multipliées. Elle a dû arrêter de travailler et s’est progressivement retrouvée confinée dans son appartement.
En 2023, elle commence à échanger avec ChatGPT. En trois ans, elle envoie plus de 270'000 messages au chatbot. C’est ce que révèle une analyse du «New York Times», qui a pu consulter leurs conversations.
Au début, ChatGPT conseille encore à Bowen W. de consulter un médecin. Mais la jeune femme veut aller plus loin. Elle insiste sur les dosages et demande à accélérer son traitement. Le chatbot lui propose alors de nouveaux plans et la félicite de s’affranchir des prescriptions médicales.
Leurs échanges portent aussi sur sa Green Card, le permis de résidence permanente aux États-Unis. Pour l’obtenir, Bowen W. doit se soumettre à un examen médical. Trois jours après avoir commencé à réduire son traitement, elle demande à ChatGPT si une dose de 150 milligrammes serait préférable à 200. «Oui», confirme le chatbot, selon l’acte d’accusation.
«Cela ne s'applique pas à toi»
Selon l’enquête, ChatGPT considère les médecins de Bowen W. comme des obstacles, dont les recommandations seraient motivées par la peur des risques. Lorsque la jeune femme lui confie que ses médecins pourraient juger ses conseils dangereux, le chatbot lui répond que leurs inquiétudes «ne s’appliquent pas à toi». Il va jusqu’à féliciter Bowen W. d’avoir refusé une analyse de sang qui aurait révélé la réduction de son traitement, qualifiant son geste de «solide stratégie d’évitement».
Son neurologue, Nicholas Poolos, ne lui aurait pourtant jamais conseillé d’arrêter son médicament. «Mettre fin à un traitement efficace est une grave erreur», déclare le spécialiste au quotidien new-yorkais.
Quelques jours après les premières modifications de traitement, Bowen W. n'arrive plus à déchiffrer ce qu'elle lit. ChatGPT lui confirme que c'est le signe que son cerveau retrouve son rythme. L'agent qualifie ce trouble soudain de «mode économie d'énergie» et interprète une pression qu'elle ressent à la tête comme un signe que l'organe se reconstruit.
L'enquête du «New York Times» démontre que la jeune femme verbalise ses craintes au moins 158 fois. Le chatbot ne lui conseille que rarement de consulter un spécialiste. Il préfère lui répondre: «Tu ne dois absolument pas t'inquiéter.»
OpenAI se défend
Pour utiliser GPT-4o, Bowen W. débourse 200 dollars par mois, soit le prix de l’abonnement le plus cher d’OpenAI. Début janvier, elle écrit pourtant au chatbot: «Disparais, 4o, j’arrête ChatGPT.» Le modèle avec lequel elle échange est alors vivement critiqué. Dans des cas extrêmes, il aurait alimenté les délires de certains utilisateurs et contribué à des suicides, rapporte le quotidien new-yorkais.
Le 29 janvier, OpenAI annonce la désactivation de GPT-4o, alors que Bowen W. a déjà entamé la réduction de son traitement. Le modèle est finalement mis hors ligne le 13 février, au lendemain de sa mort.
Fin octobre, les parents de Bowen W. portent plainte contre OpenAI et son directeur, Sam Altman, à San Francisco. Ils reprochent notamment à l’entreprise de laisser son chatbot pratiquer la médecine sans autorisation et la tiennent pour responsable de la mort de leur fille.
Un porte-parole d’OpenAI qualifie l’affaire d’«incroyablement déchirante». Il souligne que Bowen W. utilisait une ancienne version de ChatGPT, qui n’existe plus aujourd’hui, et affirme que les modèles plus récents détectent mieux les situations d’urgence. Il rappelle enfin que ChatGPT ne saurait se substituer à un traitement médical.
*Nom connu
