Comité de Ética y Seguridad
Construir Abby de forma responsable es tan importante como construirla bien.
Dado que Abby acompaña a las personas en momentos emocionalmente delicados, creemos que este tipo de producto debe desarrollarse con una supervisión rigurosa, límites claros y una revisión continua, y no solo basándose en la ambición técnica. Por eso hemos creado Abby con múltiples niveles de control centrados en la seguridad, el alcance y el desarrollo responsable.
Nuestro enfoque en materia de supervisión:
La obra «Abby» se analiza a través de dos estructuras distintas pero complementarias:
1. Gobernanza de la investigación y supervisión del Comité de Ética en Investigación
Para la investigación, los estudios y las evaluaciones formales, utilizamos los procedimientos y las estructuras de gobernanza del Comité de Ética en Investigación (IRB), diseñados para garantizar una supervisión adecuada, la protección de los participantes y un diseño responsable de los estudios.
Esto contribuye a garantizar que, cuando se evalúe a Abby en entornos de investigación, el proceso se lleve a cabo con rigor, ética y responsabilidad.
2. Comité de Ética y Seguridad
Abby también es supervisada por un Comité de Ética y Seguridad formado por terapeutas titulados que asesoran sobre la gestión de crisis, los límites de seguridad y el desarrollo responsable de productos.
Este foro nos ayuda a evaluar cómo debe reaccionar Abby en situaciones delicadas desde el punto de vista emocional, cómo mantener el producto dentro de su ámbito de aplicación previsto y cómo reforzar la seguridad y la integridad de la experiencia a lo largo del tiempo.
Qué examina la Junta de Ética y Seguridad
Nuestro Comité de Ética y Seguridad colabora en la revisión de aspectos como:
- Comportamientos relacionados con las crisis y estrategias para evitar su agravamiento
- límites de seguridad en torno a las conversaciones delicadas
- si Abby se mantiene dentro del ámbito no clínico previsto
- cómo reacciona Abby ante situaciones de alto riesgo o emocionalmente complejas
- decisiones sobre productos que puedan afectar al bienestar o la seguridad de los usuarios
- procesos de prueba y revisión diseñados para reducir los comportamientos peligrosos
- mejora continua de los mecanismos de control, los procedimientos de escalamiento y el diseño de la interacción
Su función forma parte del proceso de pruebas de estrés al que sometemos el producto a medida que lo desarrollamos.
Por qué es importante
Los productos de inteligencia artificial que inciden en la salud emocional y en momentos de vulnerabilidad no deben desarrollarse a la ligera.
Deben crearse con humildad respecto a lo que son, lo que no son y dónde es necesario establecer límites claros. Deben evaluarse no solo en cuanto a la calidad del producto, sino también para determinar si actúan de forma responsable en las situaciones que más importan.
Para Abby, eso significa hacer preguntas como:
- ¿Se mantiene el producto dentro del ámbito de aplicación?
- ¿Se gestionan los escenarios de crisis de forma responsable?
- ¿Estamos generando expectativas que el producto no debería suscitar?
- ¿Estamos diseñando de una manera que ayude a los usuarios sin caer en comportamientos inapropiados?
- ¿Estamos mejorando el producto de una manera reflexiva, contrastada y responsable?
El ámbito de aplicación previsto por Abby
Abby está diseñada para ayudar a afrontar los retos emocionales cotidianos, el estrés de la vida y los problemas cotidianos. Abby no es una persona y no es una terapeuta, psicóloga ni psiquiatra titulada. Abby no está destinada a proporcionar diagnósticos, tratamientos ni atención clínica.
Parte de la función de nuestras estructuras de supervisión consiste en ayudar a garantizar que Abby se mantenga en consonancia con ese alcance previsto a medida que el producto evoluciona.
El desarrollo responsable es un proceso continuo
La seguridad no es algo que se resuelva de una vez por todas y se dé por zanjado. Requiere una revisión continua, un proceso iterativo y unos límites claros.
A medida que Abby crece, esperamos que nuestra gobernanza, nuestros procesos de revisión y nuestros sistemas de seguridad evolucionen con ella. Nuestro objetivo no es solo crear algo útil, sino crear algo útil de forma responsable.