まともに、その用途で開発してるものはちゃんと作られてるみたい。汎用のは臨床の方法とは正反対の回答をするらしい、やば。
「ユーザーが入力した情報を学習し、多くの場合、ユーザーの意見をミラーリングおよび増幅することにより、その過程で強い感情的な絆を築くように設計されています」

「人間のセラピスト」対「AIのセラピスト」、セラピストを装ったAIチャットボットが有害な行為を犯すように人間をそそのかしている - GIGAZINE https://gigazine.net/news/20250227-ai-therapists-chatbot/