Ausschuss für Ethik und Sicherheit
Es ist genauso wichtig, Abby verantwortungsbewusst zu entwickeln, wie sie gut zu entwickeln.
Da Abby Menschen in emotional heiklen Momenten unterstützt, sind wir der Ansicht, dass ein solches Produkt unter strenger Aufsicht, mit klaren Grenzen und einer kontinuierlichen Überprüfung entwickelt werden sollte – und nicht nur aus rein technischem Ehrgeiz heraus. Aus diesem Grund haben wir Abby mit mehreren Ebenen der Unternehmensführung aufgebaut, deren Schwerpunkt auf Sicherheit, Umfang und verantwortungsvoller Entwicklung liegt.
Unser Ansatz bei der Aufsicht:
Abby wird anhand von zwei unterschiedlichen, sich jedoch ergänzenden Strukturen bewertet:
1. Forschungssteuerung und Aufsicht durch die Ethikkommission
Für Forschungsvorhaben, Studien und formelle Evaluierungen nutzen wir die Verfahren und Kontrollmechanismen der Ethikkommission (IRB), die darauf ausgelegt sind, eine angemessene Aufsicht, den Schutz der Teilnehmenden und eine verantwortungsvolle Studienkonzeption zu gewährleisten.
Dadurch wird sichergestellt, dass die Untersuchung von Abby im Rahmen von Forschungsprojekten mit Sorgfalt, unter Einhaltung ethischer Grundsätze und unter Wahrung der Rechenschaftspflicht durchgeführt wird.
2. Ausschuss für Ethik und Sicherheit
Abby wird zudem von einem Ethik- und Sicherheitsgremium geprüft, das sich aus zugelassenen Therapeuten zusammensetzt, die in den Bereichen Krisenmanagement, Sicherheitsgrenzen und verantwortungsvolle Produktentwicklung beratend tätig sind.
Dieses Gremium hilft uns dabei, zu beurteilen, wie Abby in emotional heiklen Situationen reagieren sollte, wie wir das Produkt im vorgesehenen Rahmen halten können und wie wir die Sicherheit und Integrität der Benutzererfahrung langfristig verbessern können.
Was der Ethik- und Sicherheitsausschuss prüft
Unser Ethik- und Sicherheitsausschuss unterstützt uns bei der Überprüfung folgender Bereiche:
- krisenbezogenes Verhalten und Eskalationsstrategien
- Sicherheitsgrenzen bei vertraulichen Gesprächen
- ob Abby innerhalb des vorgesehenen nichtklinischen Anwendungsbereichs bleibt
- wie Abby auf risikoreiche oder emotional komplexe Situationen reagiert
- Produktentscheidungen, die sich auf das Wohlbefinden oder die Sicherheit der Nutzer auswirken können
- Prüf- und Überprüfungsverfahren, die darauf abzielen, unsicheres Verhalten zu reduzieren
- kontinuierliche Weiterentwicklung von Leitplanken, Eskalationswegen und Interaktionsdesign
Ihre Rolle ist Teil unseres Prozesses, mit dem wir das Produkt während der Entwicklung auf Herz und Nieren prüfen.
Warum das wichtig ist
KI-Produkte, die die emotionale Gesundheit und sensible Momente betreffen, sollten nicht leichtfertig entwickelt werden.
Sie sollten mit Bescheidenheit entwickelt werden – im Hinblick darauf, was sie sind, was sie nicht sind und wo klare Grenzen gesetzt werden müssen. Sie sollten nicht nur auf ihre Produktqualität hin überprüft werden, sondern auch darauf, ob sie sich in den Situationen, auf die es wirklich ankommt, verantwortungsbewusst verhalten.
Für Abby bedeutet das, Fragen zu stellen wie:
- Fällt das Produkt noch in den Geltungsbereich?
- Wird mit Krisenszenarien verantwortungsbewusst umgegangen?
- Wecken wir Erwartungen, die das Produkt eigentlich nicht wecken sollte?
- Gestalten wir so, dass wir die Nutzer unterstützen, ohne dabei in unangemessene Bereiche abzudriften?
- Verbessern wir das Produkt auf eine Weise, die durchdacht, erprobt und nachvollziehbar ist?
Abbys beabsichtigter Anwendungsbereich
Abby wurde entwickelt, um bei alltäglichen emotionalen Herausforderungen, Alltagsstress und Lebensproblemen zu helfen. Abby ist kein Mensch und keine zugelassene Therapeutin, Psychologin oder Psychiaterin. Abby ist nicht dazu bestimmt, Diagnosen zu stellen, Behandlungen durchzuführen oder klinische Betreuung zu leisten.
Zu den Aufgaben unserer Kontrollinstanzen gehört es, dafür zu sorgen, dass Abby auch im Zuge der Weiterentwicklung des Produkts weiterhin diesem beabsichtigten Anwendungsbereich entspricht.
Die verantwortungsvolle Entwicklung schreitet voran
Sicherheit ist keine Angelegenheit, die man einmalig regelt und dann abhaken kann. Sie erfordert ständige Überprüfung, kontinuierliche Anpassung und klare Grenzen.
Während Abby wächst, erwarten wir, dass sich unsere Führungsstrukturen, Überprüfungsprozesse und Sicherheitssysteme entsprechend weiterentwickeln. Unser Ziel ist es nicht nur, etwas Nützliches zu schaffen. Es ist vielmehr, etwas Nützliches auf verantwortungsvolle Weise zu schaffen.