Construido con visión de futuro, no solo con ambición.

Dado que Abby acompaña a las personas en momentos emocionalmente delicados, creemos que este tipo de producto debe desarrollarse con una supervisión rigurosa, unos límites claros y una revisión continua, y no solo basándose en la ambición técnica. Por eso hemos creado Abby con múltiples niveles de control centrados en la seguridad, el alcance y el desarrollo responsable.

Nuestro enfoque en materia de supervisión

La obra «Abby» se analiza a través de dos estructuras distintas, pero complementarias.

1. Gobernanza de la investigación y supervisión por parte del Comité de Ética en Investigación (IRB)

Para la investigación, los estudios y las evaluaciones formales, utilizamos los procedimientos y las estructuras de gobernanza del Comité de Ética en Investigación (IRB), diseñados para garantizar una supervisión adecuada, la protección de los participantes y un diseño responsable de los estudios.

Esto contribuye a garantizar que, cuando se evalúe a Abby en entornos de investigación, el proceso se lleve a cabo con rigor, ética y responsabilidad.

2. Comité de Ética y Seguridad

Abby también es supervisada por un Comité de Ética y Seguridad formado por terapeutas titulados que asesoran sobre la gestión de crisis, los límites de seguridad y el desarrollo responsable de productos.

Este foro nos ayuda a evaluar cómo debe reaccionar Abby en situaciones delicadas desde el punto de vista emocional, cómo mantener el producto dentro de su ámbito de aplicación previsto y cómo reforzar la seguridad y la integridad de la experiencia a lo largo del tiempo.

Qué examina la Junta de Ética y Seguridad

Nuestro Comité de Ética y Seguridad colabora en la revisión de aspectos como:

• Comportamientos relacionados con las crisis y estrategias para evitar su agravamiento
• límites de seguridad en torno a las conversaciones delicadas
• si Abby se mantiene dentro del ámbito no clínico previsto
• cómo reacciona Abby ante situaciones de alto riesgo o emocionalmente complejas
• decisiones sobre productos que puedan afectar al bienestar o la seguridad de los usuarios
• procesos de prueba y revisión diseñados para reducir los comportamientos peligrosos
• mejora continua de los mecanismos de control, los procedimientos de escalamiento y el diseño de la interacción

Su función forma parte del proceso de pruebas de estrés al que sometemos el producto a medida que lo desarrollamos.

Por qué es importante

Deben crearse con humildad respecto a lo que son, lo que no son y dónde es necesario establecer límites claros. Deben evaluarse no solo en cuanto a la calidad del producto, sino también para determinar si actúan de forma responsable en las situaciones que más importan.

Para Abby, eso significa hacer preguntas como:

• ¿Se mantiene el producto dentro del ámbito de aplicación?
• ¿Se gestionan los escenarios de crisis de forma responsable?
• ¿Estamos generando expectativas que el producto no debería suscitar?
• ¿Estamos diseñando de una manera que ayude a los usuarios sin caer en comportamientos inapropiados?
• ¿Estamos mejorando el producto de una manera reflexiva, contrastada y responsable?

Nuestro enfoque se basa en investigaciones independientes y en las directrices institucionales, incluidas las directrices de la OMS sobre la inteligencia artificial aplicada a la salud. En nuestro Centro de Investigación resumimos los datos que recopilamos.

El desarrollo responsable es un proceso continuo

La seguridad no es algo que se resuelva de una vez por todas y se dé por zanjado. Requiere una revisión continua, un proceso iterativo y unos límites claros.

A medida que Abby crece, esperamos que nuestra gobernanza, nuestros procesos de revisión y nuestros sistemas de seguridad evolucionen con ella. Nuestro objetivo no es solo crear algo útil, sino crear algo útil de forma responsable.