ChatGPT perturbe le suivi thérapeutique des troubles alimentaires

Ce que raconte Julie Jargon dans le Wall Street Journal tient dans une petite scène de cabinet mais en dit long sur l'usage réel des chatbots grand public. Des patients suivis pour troubles alimentaires sortent leur téléphone en pleine séance et demandent à ChatGPT ce qui ne va pas dans ce que vient de dire leur thérapeute. Anne O'Melia, chief clinical and quality officer de l'Eating Recovery Center, le rapporte tel quel.

Le reste du décor est plus banal, et plus inquiétant. Des femmes et des hommes envoient des photos aux assistants IA en demandant des conseils pour perdre du poids ou prendre du muscle. Certaines réponses tombent dans la logique d'un utilisateur en bonne santé, avec des recommandations sur la réduction des graisses et des glucides qui peuvent devenir délétères pour quelqu'un déjà en pleine restriction. Les cliniciens décrivent un nouveau temps de travail, contredire la machine, expliquer qu'un modèle qui ne distingue pas un culturiste bien nourri d'une personne dénutrie n'est pas un bon conseiller, ramener le patient à des repères cliniques.

L'histoire n'est pas totalement nouvelle. La NEDA avait déjà dû suspendre le chatbot Tessa, prévu comme outil de prévention, après qu'une fonctionnalité générative eut commencé à donner des conseils de régime et à encourager la perte de poids. Ce qui change ici, c'est la nature du produit interrogé : un assistant multi-usage installé dans le quotidien, sans encadrement clinique, sollicité par des patients qui n'osent parfois pas parler à un humain de leur rapport au corps.

L'honnête caveat, c'est que le reportage repose sur des témoignages de thérapeutes plus que sur des chiffres d'ampleur. Il ne dit pas quelle proportion des utilisateurs concernés bascule vraiment vers ces conseils, ni comment les éditeurs de ces chatbots traitent techniquement le cas d'usage trouble alimentaire dans leurs garde-fous récents, ni à quel taux les redirections vers des lignes d'aide se déclenchent réellement.

L'ouverture est du côté des acteurs cliniques comme l'Eating Recovery Center et des éditeurs de modèles. Les premiers gagneront à documenter finement ces interactions pour peser dans les futurs standards de soin numérique, les seconds ont un intérêt direct à muscler la détection des signaux de trouble alimentaire avant que le sujet ne devienne un dossier régulateur ouvert par d'autres.