بُنيت على أساس الرؤية، وليس مجرد الطموح.

نظرًا لأن «آبي» تدعم الأشخاص خلال اللحظات الحساسة عاطفيًّا، فإننا نعتقد أن هذا النوع من المنتجات يجب أن يتم تطويره في ظل رقابة حقيقية، وحدود واضحة، ومراجعة مستمرة، وليس فقط انطلاقًا من الطموح التقني. ولهذا السبب قمنا بتطوير «آبي» مع طبقات متعددة من الحوكمة تركز على السلامة، ونطاق العمل، والتطوير المسؤول.

نهجنا في الرقابة

تُقيَّم «آبي» من خلال هيكلين متميزين ولكنهما متكاملان.

1. حوكمة الأبحاث والإشراف من قبل لجنة مراجعة الأبحاث (IRB)

فيما يتعلق بالأبحاث والدراسات والتقييمات الرسمية، نستخدم إجراءات "لجنة المراجعة المؤسسية" (IRB) وهياكل الحوكمة المصممة لدعم الرقابة المناسبة وحماية المشاركين وتصميم الدراسات بطريقة مسؤولة.

وهذا يساعد على ضمان أن تتم عملية تقييم آبي في الأوساط البحثية بدقة ووفقًا للمعايير الأخلاقية وبشكل يتسم بالمساءلة.

2. مجلس الأخلاقيات والسلامة

كما تخضع «آبي» لمراجعة من قبل مجلس الأخلاقيات والسلامة الذي يتألف من معالجين مرخصين يقدمون المشورة بشأن التعامل مع الأزمات، وحدود السلامة، وتطوير المنتجات بطريقة مسؤولة.

يساعدنا هذا المجلس على تقييم الكيفية التي ينبغي أن تتصرف بها «آبي» في المواقف الحساسة عاطفياً، وكيفية الحفاظ على المنتج ضمن النطاق المقصود، وكيفية تعزيز سلامة وسلامة التجربة بمرور الوقت.

ما الذي يراجعه مجلس الأخلاقيات والسلامة

يساعد مجلس الأخلاقيات والسلامة لدينا في مراجعة مجالات تشمل:

• السلوك المرتبط بالأزمات وأساليب التصعيد
• حدود الأمان حول المحادثات الحساسة
• ما إذا كانت «آبي» ستظل ضمن نطاقها غير السريري المقصود
• كيف تتعامل آبي مع المواقف عالية المخاطر أو المعقدة عاطفياً
• القرارات المتعلقة بالمنتجات التي قد تؤثر على رفاهية المستخدم أو سلامته
• عمليات الاختبار والمراجعة المصممة للحد من السلوكيات غير الآمنة
• التحسين المستمر لآليات الحماية ومسارات التصعيد وتصميم التفاعل

ويشكل دورهم جزءًا من الطريقة التي نختبر بها المنتج تحت الضغط أثناء تطويره.

لماذا هذا مهم

يجب أن تُبنى هذه الأنظمة بروح من التواضع فيما يتعلق بما هي عليه، وما ليست عليه، وأين تقتضي الضرورة وضع حدود صارمة. كما يجب مراجعتها ليس فقط من حيث جودة المنتج، بل أيضًا للتأكد من أنها تتصرف بمسؤولية في المواقف الأكثر أهمية.

بالنسبة إلى آبي، هذا يعني طرح أسئلة مثل:

• هل يقع المنتج ضمن نطاق التطبيق؟
• هل يتم التعامل مع سيناريوهات الأزمات بمسؤولية؟
• هل نخلق توقعات لا ينبغي أن يخلقها المنتج؟
• هل نُصمم بطريقة تدعم المستخدمين دون الانزلاق إلى مجالات غير ملائمة؟
• هل نقوم بتحسين المنتج بطريقة مدروسة ومُختبرة وخاضعة للمساءلة؟

يستند نهجنا إلى أبحاث مستقلة وتوجيهات مؤسسية، بما في ذلك إرشادات منظمة الصحة العالمية بشأن الذكاء الاصطناعي في مجال الصحة. ونقوم بتلخيص الأدلة التي نتابعها في «مركز الأبحاث» الخاص بنا.

التنمية المسؤولة مستمرة

السلامة ليست أمراً يُحل مرة واحدة ثم يُشطب من قائمة المهام. فهي تتطلب مراجعة مستمرة وتكراراً ووضع حدود واضحة.

مع نمو Abby، نتوقع أن تتطور معها آليات الحوكمة وعمليات المراجعة وأنظمة السلامة لدينا. فهدفنا لا يقتصر على بناء شيء مفيد فحسب، بل هو بناء شيء مفيد بطريقة مسؤولة.