AIについて、セラピストが交わすべき対話
本当の恐怖は「置き換え」ではない
アメリカ心理学会が1,200人の心理学者を対象に実施した調査によると、77％が 患者から、メンタルヘルスのニーズを支援するためにAIを利用しているという話を 聞いたと回答しました。また、心理学者たちの3分の1以上が、患者が AIをメンタルヘルスの専門家としての「補完的な存在」として利用していると述べています。これは、私たちが真剣に議論すべき 問題です。
プロのセラピストたちは、AIに職を奪われることを懸念しているだろうと私は予想していた。AIが人間の仕事を奪うという懸念が これほど広まっていることを考えれば、それは 妥当な推測のように思えた。この調査では、セラピストたちが生計の 危機を感じ、AIを全面的に拒絶するという自然な生存本能が働いていることが示されるだろうと思っていた。
興味深いことに、この調査では、職を奪われることへの不安が、 心理学者たちにとって最大の懸念事項ではなかったことが明らかになった。
その一方で、心理学者の97％は、メンタルヘルス支援にチャットボットが使用されることで、 意図せずして否定的な行動を助長したり、妄想的な考えを正当化したり、あるいは 自傷行為を助長したりするのではないかと懸念していた。この調査ではいくつかの具体的な懸念点が挙げられたが、それらはすべて、 チャットボットが適切な対応方法を知らず、 最終的には害を及ぼす可能性があるという、同じ根本的な懸念を指し示していた。
こうした不安は決して間違っているわけではありません。それこそが、人々が 感情的なサポートを目的に特別に開発されたAIと対話すべき理由なのです。
AIはすべて同じというわけではない
メンタルヘルス向けAI「アビー」のトレーニング、安全性、ユーザー体験に密接に関わっているセラピストとして、 AIの舞台裏を実際に目にする機会のなかった同僚たちが、クライアントが支援を求めてAIに頼ることに 慎重になるのは当然のことだと思います。私自身も、アビーの舞台裏に深く関わるようになる前は、 おそらく同じような懸念を多く抱いていたことでしょう。
その違いは、私がその謎めいたベールを剥がしてみると、賢く、 献身的な人々のチームが、アビーを可能な限り安全で、配慮が行き届き、かつ効果的なものにするために 数え切れないほどの時間を費やしている姿があったことです。私はすぐに、AIには「良いAI」と「悪いAI」があることを学びました。アビーは 間違いなく「良いAI」のカテゴリーに属しています。この評価は、 絶え間ないテスト、トレーニング、ガバナンス、そしてモデルの継続的な改良を通じて勝ち取られたものです。
安全は偶然に実現するものではない
アビーがセラピストたちによって開発されたことはすでにご存じかと思いますが、ご存じない方もいらっしゃるかもしれません。実は、アビーの 開発過程もまた、セラピストたちによって継続的に監視、評価、そしてストレステストが行われています。 アビーは堅牢なリスク軽減フレームワークの下で稼働しており、その継続的な開発と動作を監督する強固な 内部ガバナンス体制によって支えられています。
実のところ、アビーの安全性や有効性に関する機能の多くは、開発と 改良に何年もかかったのです（AIの世界における1年は、人間の世界の10年に 相当することを念頭に置いてください）。
実際、チームは、アプリ体験がウェブプラットフォームと同等の安全性と品質の基準を満たしていると確信できるまで、 アプリストアでのアビーのリリースを延期していました。 当初から、最優先事項は「いち早くリリースすること」ではなく、 感情的なサポートを提供するAIコンパニオンとして、最も安全で、入念に設計されたものの一つを構築することでした。
私は15年以上にわたりセラピストとして、行動保健の さまざまな分野で多様な人々を支援してきました。 セラピストとしての誠実さは私にとって何よりも大切なものであり、 だからこそ、私はアビーと強い共感を抱いています。私は、このアプリがウェブ版と同じ高い 安全性、配慮、有効性の基準を満たすことを確実にするため、アプリストアでの リリースを必要なだけ延期することを厭わなかったチームの一員であることを自覚しています。
AIという目まぐるしく変化する世界では、迅速にリリースし、 その過程で改善を重ねるという多大なプレッシャーがしばしばかかります。アビーも確かに他のAI製品と同様に進化を続けていますが、 チームはプラットフォームの基盤となる安全性と品質については決して妥協しませんでした。 アプリのリリースを遅らせることが収益の遅れを意味する場合であっても、 これらの核心的な安全対策が最優先されました。セラピストであり、チームの一員でもある私は、 利益よりも誠実さを優先したこの会社の一員であることを誇りに思います。
新たな責任
調査結果を読んだ後、私の役割の一つは、 同僚たちが「良いAI」と「悪いAI」を見分けられるよう手助けすることだと理解し始めています。教育と 透明性を通じて、メンタルヘルス向けのAIがどのような点において安全で、倫理的であり、 信頼に値するものなのかを、セラピストたちがより深く理解できるよう支援できると信じています。
APAはすでに、臨床家がAIが生成した助言を慎重に評価するための優れたガイドを作成しており、 これは重要な第一歩です。しかし、私たちの専門職としては、 さらに踏み込んだ取り組みが可能だと考えます。セラピストには、AIがクライアントに対して実際にどのような役割を果たしているのか、 ケアの連続体の中でAIがどのような位置づけにあるのか、そしてクライアントが感情的な生活にAIを取り入れ始めた際に、 臨床家としての私たちの役割がどのように変化するのかを理解するための枠組みも必要となります。
私たちに必要な対話
この技術が存在すべきかどうかという議論には、あまり興味がありません。第一に、AIが社会に与える影響を 真に理解できるようになるのは、まだ何年も先のことになると思います。 第二に、メンタルヘルス分野におけるAIはすでに現実のものとなっています。APAの調査が示唆していることといえば、 人々がすでにそれを利用しているということです。もう、魔神を瓶に戻すことなどできません。
私が関心を持っているのは、もっと実践的な議論です。私は、 セラピストが、安全なAIを見極める方法、AIがクライアントの生活において果たす役割を どのように捉えるべきか、そしてその役割がセラピーとどのように連携できるかを理解できるよう 手助けしたいと考えています。また、クライアントが、AIを安全に利用する方法、どのツールが 信頼に値するかを判断する方法、そしてAIが専門的なケアに取って代わるのではなく、 メンタルヘルスをどのようにサポートできるかを理解できるよう、 手助けしたいと考えています。
優れたAIの勝利を後押しする
人々の精神的・感情的な健康がかかっているため、その重要性は極めて高い。だからこそ、 アビーのような善良なAIがこの戦いに勝利することが、これほど重要だと私は考えている。
