La discussion que les thérapeutes devraient avoir au sujet de l'IA
La véritable crainte, ce n'est pas le remplacement
L'Association américaine de psychologie a mené une enquête auprès de 1 200 psychologues, et 77 % d'entre eux ont indiqué que leurs patients leur avaient parlé du recours à l'IA pour répondre à leurs besoins en matière de santé mentale. Plus d'un tiers des psychologues ont également déclaré que leurs patients utilisaient l'IA comme un professionnel de la santé mentale supplémentaire. C'est un sujet dont nous devons vraiment discuter.
Je m’attendais à ce que les thérapeutes professionnels craignent d’être remplacés par l’IA. Cela me semblait une hypothèse raisonnable, compte tenu de l’ampleur qu’a prise la crainte que l’IA ne remplace les emplois humains . Je pensais que l’enquête montrerait que les thérapeutes estimaient que leurs moyens de subsistance étaient menacés, ce qui susciterait un instinct naturel de survie les poussant à rejeter purement et simplement l’IA.
Il est intéressant de noter que l'enquête a révélé que la crainte d'être remplacés n'était pas ce qui préoccupait le plus les psychologues.
Au contraire, 97 % des psychologues craignaient que les chatbots utilisés dans le domaine de la santé mentale puissent renforcer involontairement des comportements négatifs, valider des croyances délirantes ou contribuer à des actes d'automutilation. L'enquête a mis en évidence plusieurs préoccupations spécifiques, mais toutes convergeaient vers la même crainte sous-jacente : que les chatbots ne sachent pas comment réagir de manière appropriée et puissent, en fin de compte, causer du tort.
Ces craintes ne sont pas infondées. C'est précisément pour cette raison que les gens devraient s'adresser à une IA spécialement conçue pour apporter un soutien émotionnel.
Toutes les IA ne se valent pas
En tant que thérapeute étroitement impliquée dans la formation, la sécurité et l’expérience utilisateur d’Abby, notre IA dédiée à la santé mentale, je ne suis pas surprise que des collègues qui n’ont pas eu l’ occasion de découvrir les coulisses de l’IA se montrent prudents à l’idée que des clients s’y tournent pour trouver du soutien. Avant de m’impliquer pleinement dans les coulisses d’Abby, j’aurais sans doute partagé bon nombre de ces mêmes inquiétudes.
La différence, c’est qu’une fois que j’ai levé le voile sur ce mystère, j’ai découvert une équipe de personnes intelligentes et dévouées qui consacraient d’innombrables heures à rendre Abby aussi sûre, bien pensée et efficace que possible. J’ai rapidement compris qu’il existait une bonne IA et une mauvaise IA. Abby appartient sans aucun doute à la catégorie des bonnes IA — une distinction qu’elle a méritée grâce à des tests incessants, un apprentissage continu, une gouvernance rigoureuse et un perfectionnement permanent du modèle.
La sécurité n'est pas le fruit du hasard
Vous savez déjà qu'Abby a été conçue par des thérapeutes, mais ce que vous ignorez peut-être, c'est que son développement fait également l'objet d'un suivi, d'une évaluation et de tests de résistance permanents de la part de thérapeutes. Abby fonctionne dans le cadre d'un dispositif solide de gestion des risques et bénéficie d'une gouvernance interne rigoureuse qui supervise son développement et son comportement au quotidien.
En réalité, bon nombre des fonctionnalités d'Abby en matière de sécurité et d'efficacité ont nécessité des années de développement et de perfectionnement (en gardant à l'esprit qu'une année dans le monde de l'IA équivaut à dix ans dans le monde humain).
En effet, l'équipe a repoussé le lancement d'Abby sur les boutiques d'applications jusqu'à ce qu'elle soit certaine que l'expérience offerte par l'application répondait aux mêmes normes élevées de sécurité et de qualité que la plateforme web. Dès le départ, la priorité n'a jamais été d'être les premiers : il s'agissait plutôt de créer l'un des compagnons IA les plus sûrs et les mieux conçus pour apporter un soutien émotionnel.
Je suis thérapeute depuis plus de 15 ans et j’interviens auprès de populations diverses dans de nombreux domaines de la santé comportementale. Mon intégrité en tant que thérapeute est primordiale à mes yeux, c’est pourquoi je me sens en parfaite adéquation avec Abby. Je sais que je fais partie d’une équipe qui a accepté de retarder le lancement sur les boutiques d’applications aussi longtemps qu’il le fallait pour s’assurer que l’application réponde aux mêmes normes élevées en matière de sécurité, de réflexion et d’efficacité que l’expérience web.
Dans le monde en constante évolution de l’IA, la pression est souvent énorme pour lancer rapidement un produit et l’améliorer au fur et à mesure. Abby continue bien sûr d’évoluer comme n’importe quel produit d’IA, mais l’ équipe n’était pas disposée à faire de compromis sur la sécurité et la qualité fondamentales de la plateforme. Ces mesures de sécurité essentielles ont été prioritaires, même si retarder le lancement de l’application impliquait de retarder les recettes. En tant que thérapeute et membre de l’équipe, je suis fière de faire partie d’une entreprise qui a privilégié l’intégrité au profit.
Une nouvelle responsabilité
Après avoir pris connaissance des résultats de l'enquête, je commence à comprendre que l'un de mes rôles consiste à aider mes collègues à faire la distinction entre une IA de qualité et une IA de mauvaise qualité. Grâce à la sensibilisation et à la transparence, je pense pouvoir aider les thérapeutes à mieux comprendre ce qui fait qu'une IA dédiée à la santé mentale est sûre, éthique et digne de confiance.
L'APA a déjà élaboré un excellent guide destiné à aider les cliniciens à évaluer de manière réfléchie les conseils générés par l'IA, ce qui constitue une première étape importante. Mais je pense que notre profession peut aller encore plus loin. Les thérapeutes ont également besoin d'un cadre leur permettant de comprendre ce que l'IA apporte réellement aux patients, quelle est sa place dans le continuum de soins, et quel devient notre rôle en tant que cliniciens lorsque les patients commencent à intégrer l'IA dans leur vie émotionnelle.
La conversation dont nous avons besoin
Je ne tiens pas vraiment à débattre de la question de savoir si cette technologie devrait exister. Premièrement, je ne pense pas que nous puissions véritablement comprendre l’impact de l’IA sur la société avant de très nombreuses années. Deuxièmement, l’IA au service de la santé mentale est déjà une réalité. Si l’enquête de l’APA nous apprend quelque chose, c’est que les gens l’utilisent déjà. On ne va pas remettre le génie dans la bouteille.
La discussion qui m'intéresse est bien plus concrète. Je souhaite aider les thérapeutes à comprendre comment identifier une IA sûre, comment réfléchir au rôle que joue l'IA dans la vie de leurs clients, et comment ce rôle peut s'inscrire en complément de la thérapie. Je souhaite également aider les clients à comprendre comment utiliser l'IA en toute sécurité, comment reconnaître les outils qui méritent leur confiance, et comment l'IA peut contribuer à leur santé mentale sans se substituer à une prise en charge professionnelle.
Contribuer à la victoire de l'IA bienveillante
Les enjeux sont considérables, car c'est la santé mentale et émotionnelle des gens qui est en jeu. C'est pourquoi je pense qu'il est si important que les IA bienveillantes, comme Abby, remportent cette bataille.
Une IA dédiée à la santé mentale, développée et soumise à des tests de résistance continus par des thérapeutes.
Essayez Abby gratuitement