Comité d'éthique et de sécurité
Il est tout aussi important de construire Abby de manière responsable que de bien la construire.
Étant donné qu'Abby accompagne les utilisateurs dans des moments émotionnellement délicats, nous estimons que ce type de produit doit être développé dans le cadre d'un véritable contrôle, avec des limites claires et un suivi continu — et non pas uniquement sur la base d'une ambition technique. C'est pourquoi nous avons conçu Abby en mettant en place plusieurs niveaux de gouvernance axés sur la sécurité, le périmètre d'application et un développement responsable.
Notre approche en matière de contrôle :
L'analyse d'Abby s'articule autour de deux structures distinctes mais complémentaires :
1. Gouvernance de la recherche et supervision par le comité d'éthique
Pour la recherche, les études et les évaluations formelles, nous avons recours aux procédures et aux structures de gouvernance du Comité d'éthique (IRB), conçues pour garantir une supervision adéquate, la protection des participants et une conception responsable des études.
Cela permet de garantir que, lorsque Abby fait l'objet d'une évaluation dans le cadre de travaux de recherche, le processus se déroule dans le respect de la rigueur, de l'éthique et de la transparence.
2. Comité d'éthique et de sécurité
Abby est également soumise à l'examen d'un comité d'éthique et de sécurité composé de thérapeutes agréés qui donnent des conseils sur la gestion des situations de crise, les limites en matière de sécurité et le développement responsable des produits.
Ce comité nous aide à déterminer comment Abby doit réagir dans des situations délicates sur le plan émotionnel, comment veiller à ce que le produit reste dans le cadre prévu, et comment renforcer la sécurité et l'intégrité de l'expérience au fil du temps.
Ce que le Comité d'éthique et de sécurité examine
Notre comité d'éthique et de sécurité contribue à l'examen de domaines tels que :
- Comportements liés aux situations de crise et stratégies d'escalade
- des limites de sécurité autour des conversations sensibles
- si Abby reste dans le cadre non clinique prévu
- comment Abby réagit face à des situations à haut risque ou émotionnellement complexes
- décisions relatives aux produits susceptibles d'avoir une incidence sur le bien-être ou la sécurité des utilisateurs
- des processus de test et de contrôle visant à réduire les comportements dangereux
- amélioration continue des garde-fous, des procédures d'escalade et de la conception des interactions
Leur rôle s'inscrit dans le cadre des tests de résistance que nous effectuons sur le produit au fur et à mesure de son développement.
Pourquoi est-ce important ?
Les produits d'IA qui touchent à la santé émotionnelle et aux moments de vulnérabilité ne doivent pas être conçus à la légère.
Ils doivent être conçus avec humilité, en tenant compte de ce qu’ils sont, de ce qu’ils ne sont pas, et des limites strictes qu’il convient de fixer. Ils doivent être évalués non seulement sur la qualité du produit, mais aussi sur leur capacité à se comporter de manière responsable dans les situations qui comptent le plus.
Pour Abby, cela signifie poser des questions telles que :
- Le produit reste-t-il dans le champ d'application ?
- Les scénarios de crise sont-ils gérés de manière responsable ?
- Sommes-nous en train de susciter des attentes que le produit ne devrait pas susciter ?
- Concevons-nous nos produits de manière à aider les utilisateurs sans pour autant franchir la ligne rouge ?
- Est-ce que nous améliorons le produit de manière réfléchie, éprouvée et responsable ?
Champ d'application prévu par Abby
Abby est conçue pour vous aider à faire face aux défis émotionnels quotidiens, au stress de la vie et aux problèmes de la vie. Abby n'est pas un être humain et n'est ni thérapeute, ni psychologue, ni psychiatre agréé. Abby n'est pas destinée à établir un diagnostic, à prescrire un traitement ou à prodiguer des soins cliniques.
L'un des rôles de nos structures de contrôle consiste à veiller à ce qu'Abby reste conforme à ce champ d'application prévu à mesure que le produit évolue.
Le développement durable est un processus continu
La sécurité n'est pas une question que l'on règle une fois pour toutes. Elle nécessite une réévaluation constante, des ajustements réguliers et des limites clairement définies.
À mesure qu'Abby se développe, nous souhaitons que notre gouvernance, nos processus de contrôle et nos systèmes de sécurité évoluent en parallèle. Notre objectif n'est pas seulement de créer quelque chose d'utile, mais aussi de le faire de manière responsable.