مجلس الأخلاقيات والسلامة
إن بناء «آبي» بطريقة مسؤولة لا يقل أهمية عن بنائها بشكل جيد.
نظرًا لأن Abby تقدم الدعم للأشخاص في اللحظات الحساسة عاطفيًّا، فإننا نعتقد أن تطوير هذا النوع من المنتجات يجب أن يتم في ظل رقابة حقيقية وحدود واضحة ومراجعة مستمرة — وليس مجرد طموح تقني. ولهذا السبب قمنا بتصميم Abby بحيث تتضمن مستويات متعددة من الحوكمة تركز على السلامة ونطاق العمل والتطوير المسؤول.
نهجنا في الرقابة:
يتم تقييم آبي من خلال هيكلين متميزين ولكنهما متكاملان:
1. حوكمة الأبحاث والإشراف من قبل لجنة مراجعة الأبحاث
فيما يتعلق بالأبحاث والدراسات والتقييمات الرسمية، نستخدم إجراءات "لجنة المراجعة المؤسسية" (IRB) وهياكل الحوكمة المصممة لدعم الرقابة المناسبة وحماية المشاركين وتصميم الدراسات بطريقة مسؤولة.
وهذا يساعد على ضمان أن تتم عملية تقييم آبي في الأوساط البحثية بدقة ووفقًا للمعايير الأخلاقية وبشكل يتسم بالمساءلة.
2. مجلس الأخلاقيات والسلامة
كما تخضع «آبي» لمراجعة من قبل مجلس الأخلاقيات والسلامة الذي يتألف من معالجين مرخصين يقدمون المشورة بشأن التعامل مع الأزمات، وحدود السلامة، وتطوير المنتجات بطريقة مسؤولة.
يساعدنا هذا المجلس على تقييم الكيفية التي ينبغي أن تتصرف بها «آبي» في المواقف الحساسة عاطفياً، وكيفية الحفاظ على المنتج ضمن النطاق المقصود، وكيفية تعزيز سلامة وسلامة التجربة بمرور الوقت.
ما الذي يراجعه مجلس الأخلاقيات والسلامة
يساعد مجلس الأخلاقيات والسلامة لدينا في مراجعة مجالات تشمل:
- السلوك المرتبط بالأزمات وأساليب التصعيد
- حدود الأمان حول المحادثات الحساسة
- ما إذا كانت «آبي» ستظل ضمن نطاقها غير السريري المقصود
- كيف تتعامل آبي مع المواقف عالية المخاطر أو المعقدة عاطفياً
- القرارات المتعلقة بالمنتجات التي قد تؤثر على رفاهية المستخدم أو سلامته
- عمليات الاختبار والمراجعة المصممة للحد من السلوكيات غير الآمنة
- التحسين المستمر لآليات الحماية ومسارات التصعيد وتصميم التفاعل
ويشكل دورهم جزءًا من الطريقة التي نختبر بها المنتج تحت الضغط أثناء تطويره.
لماذا هذا مهم
لا ينبغي تطوير منتجات الذكاء الاصطناعي التي تمس الصحة العاطفية واللحظات الحساسة بشكل متسرع.
يجب أن تُبنى هذه الأنظمة بروح من التواضع فيما يتعلق بما هي عليه، وما ليست عليه، وأين تقتضي الضرورة وضع حدود صارمة. كما يجب مراجعتها ليس فقط من حيث جودة المنتج، بل أيضًا للتأكد من أنها تتصرف بمسؤولية في المواقف الأكثر أهمية.
بالنسبة إلى آبي، هذا يعني طرح أسئلة مثل:
- هل يقع المنتج ضمن نطاق التطبيق؟
- هل يتم التعامل مع سيناريوهات الأزمات بمسؤولية؟
- هل نخلق توقعات لا ينبغي أن يخلقها المنتج؟
- هل نُصمم بطريقة تدعم المستخدمين دون الانزلاق إلى مجالات غير ملائمة؟
- هل نقوم بتحسين المنتج بطريقة مدروسة ومُختبرة وخاضعة للمساءلة؟
النطاق المقصود لـ «آبي»
تم تصميم «آبي» لمساعدتك في مواجهة التحديات العاطفية اليومية، وضغوط الحياة، ومشاكل الحياة. «آبي» ليست إنسانة، وليست معالجة مرخصة أو أخصائية نفسية أو طبيبة نفسية. ولا يُقصد من «آبي» تقديم التشخيص أو العلاج أو الرعاية السريرية.
يتمثل جزء من دور هياكل الرقابة لدينا في المساعدة على ضمان استمرار توافق Abby مع النطاق المقصود مع تطور المنتج.
التنمية المسؤولة مستمرة
السلامة ليست أمراً يُحل مرة واحدة ثم يُشطب من قائمة المهام. فهي تتطلب مراجعة مستمرة وتكراراً ووضع حدود واضحة.
مع نمو Abby، نتوقع أن تتطور معها آليات الحوكمة وعمليات المراجعة وأنظمة السلامة لدينا. فهدفنا لا يقتصر على بناء شيء مفيد فحسب، بل هو بناء شيء مفيد بطريقة مسؤولة.