Pourquoi les psychologues experts estiment que l’IA ne peut pas remplacer les thérapeutes humains

Les psychothérapeutes ont désigné le contact humain comme la principale différence entre un thérapeute basé sur l’IA et un véritable spécialiste. La thérapie repose sur la relation, la confiance et un sentiment de sécurité. Un spécialiste remarque non seulement les paroles du patient, mais aussi les changements dans son état.

Un réseau neuronal peut vous aider à y voir plus clair dans vos pensées, à structurer la situation, à vous fournir des informations utiles ou à vous proposer des exercices. Mais en cas de dépression sévère, d’idées suicidaires, de trouble alimentaire, de traumatisme ou de relations compliquées, un seul bon conseil ne suffit pas : un spécialiste doit évaluer l’état de la personne et en assumer la responsabilité.

Par ailleurs, l’IA peut ne pas reconnaître les signes d’une dépression sévère, d’un trouble panique, d’un TSPT ou d’intentions suicidaires. La disponibilité permanente d’un chatbot peut aussi retarder le recours à un professionnel : une personne risque de passer des années à lui parler sans jamais recevoir d’aide véritable. La confidentialité constitue un autre risque. Les données personnelles échangées avec un chatbot peuvent être conservées, utilisées pour entraîner des modèles ou se retrouver dans des fuites de données.

L’IA peut aussi imiter l’empathie, mais elle ne la ressent pas réellement. Et dans les situations critiques, un réseau neuronal ne pourra ni appeler une ambulance, ni prévenir les proches, ni assurer la sécurité d’une personne. À ce propos, OpenAI teste ChatGPT Health, une section privée consacrée aux questions de santé.

La disponibilité permanente d’un chatbot peut-elle compenser les risques d’une thérapie automatisée, alors qu’il risque de passer à côté d’un état dangereux et ne pourra pas aider en cas d’urgence ?