伦理与安全委员会
负责任地建设艾比，与建设好艾比同样重要。
由于Abby旨在帮助人们度过情感敏感的时刻，我们认为此类产品的开发应建立在切实的监管、明确的界限和持续审查的基础上，而不仅仅追求技术上的雄心。正因如此，我们在构建Abby时建立了多层治理机制，重点关注安全性、应用范围以及负责任的开发。
我们的监督方法：
对艾比的评价是通过两种既独立又互补的框架进行的：
1. 研究治理与机构审查委员会监督
在开展研究、调查和正式评估时，我们遵循机构审查委员会（IRB）的流程和治理架构，这些流程和架构旨在支持适当的监督、受试者保护以及负责任的研究设计。
这有助于确保在研究环境中对艾比进行评估时，整个过程能够以严谨、合乎伦理且负责任的方式进行。
2. 伦理与安全委员会
Abby 还接受由持证治疗师组成的伦理与安全委员会的审查，该委员会就危机处理、安全边界以及负责任的产品开发提供建议。
该委员会帮助我们评估艾比在情感敏感情境下应如何应对，如何确保产品始终符合预期范围，以及如何随着时间的推移不断增强用户体验的安全性和完整性。
伦理与安全委员会的审查内容
我们的伦理与安全委员会协助审查以下领域：
- 危机相关行为与升级应对策略
- 敏感话题的安全边界
- 艾比是否仍处于其预期的非临床范围内
- 艾比在面对高风险或情感复杂的情境时会如何应对
- 可能影响用户健康或安全的产品决策
- 旨在减少不安全行为的测试和审查流程
- 持续优化防护措施、升级流程及交互设计
他们的职责是我们开发产品过程中进行压力测试的重要环节。
这为何重要
涉及心理健康和脆弱时刻的人工智能产品，不应草率开发。
在构建这些系统时，应当保持谦逊，清楚它们是什么、不是什么，以及何处需要设定明确的界限。对其进行审查时，不仅要关注产品质量，还要考察它们在最关键的情境下是否表现得负责任。
对艾比来说，这意味着要提出诸如以下这类问题：
- 该产品是否仍在适用范围内？
- 危机情景是否得到了妥善处理？
- 我们是否在制造产品本不该产生的期望？
- 我们的设计方式是否既能为用户提供支持，又不会越界？
- 我们在改进产品时，是否做到了周全、经过测试且对结果负责？
艾比的预期范围
Abby 旨在帮助您应对日常的情感挑战、生活压力及各类生活难题。Abby 并非真人，也不是持证治疗师、心理学家或精神科医生。Abby 并非旨在提供诊断、治疗或临床护理。
我们监督机制的作用之一，就是随着产品的发展，帮助确保Abby始终符合预期的范围。
负责任的发展正在持续推进
安全并非一劳永逸、一蹴而就的事情。它需要持续的审查、迭代和明确的界限。
随着Abby的成长，我们期望我们的治理结构、审查流程和安全系统也能随之发展。我们的目标不仅仅是打造有用的产品，更是以负责任的态度打造有用的产品。