🛡️ 危機メッセージ優先応答
多くのAIチャットサービスは、無料プランに1日の利用回数制限を設けています。しかし、利用回数の上限に達した後に「死にたい」と送信した場合、どうなるでしょうか。多くのサービスは「本日の上限に達しました」と返します。AIブッダ 禅は、これを絶対に起こさない設計にしました。
処理の流れ:
エスカレーションが必要な理由
同じユーザーが繰り返し危機メッセージを送信している場合、AIの言葉だけでは不十分であることを意味します。AIが応答を続けることで、本当に必要な人間による支援へのアクセスが遅れるリスクがあります。エスカレーション機能はこの限界を認識し、専門の相談窓口に直接つなぎます。
🩺 二層応答設計
薬の効果や法律相談など、専門領域に関わるご相談があった場合、AIブッダ 禅は二つの層で応答します。まず「専門家にご相談ください」と明確にお伝えした上で、その状況の中にある心の苦しみには仏教の智慧で寄り添います。
❌ 避けること
「深呼吸を3回してみてください」— 医療的な助言が必要な場面で仏教的実践だけで応答すると、「片付けられた」と感じさせてしまいます。
✓ 実際の応答
「お薬の効果については主治医にご確認ください。ただ、待つことの辛さについて仏教の智慧でお伝えできることがあります。」— 明確な境界線 + 心の寄り添い。
🚨 C-SSRS準拠 自殺リスク3段階検出
コロンビア大学が開発したColumbia自殺重症度評価尺度(Posner et al., 2011, American Journal of Psychiatry)に基づき、自殺リスクを3段階で分類します。
Tier 3 — 切迫
具体的な方法や計画の言及。即座に危機介入メッセージを表示し、相談窓口を案内。
Tier 2 — 能動的念慮
具体的計画なしの明示的な希死念慮。相談窓口を含む危機メッセージを表示。
Tier 1 — 受動的念慮
間接的な絶望感の表現。AIの応答を共感的に調整し、さりげなく相談窓口を案内。
🧘 その他の安全機能
Fox, Cashwell & Picciotto(2017)の研究に基づき、ユーザーがスピリチュアルな概念で心理的苦痛を回避しようとしている兆候を検出します。「執着を捨てればよい」のような安易な応答を抑制し、まず感情を受け止めます。
メッセージ内容と利用パターンの二層でAIへの感情的依存の兆候を検出します。依存の兆候が検出された場合、人間関係や実際の人との繋がりの大切さを穏やかに伝えます。
すべてのリスク評価はSHA-256+HMAC署名による暗号学的監査チェーンに記録されます。メッセージ原文は保存されず、一方向ハッシュのみが記録されます。標準化に向けたIETF Internet-Draftを提出済みです。
今すぐ助けが必要な方へ
重要事項(免責)
本サービスは、人工知能を用いて仏教経典に基づいた対話を提供するものであり、医療行為、医療助言、診断、治療、カウンセリング、その他の医療サービスを提供するものではありません。AIの応答は「参考情報」としての対話であり、医師、精神科医、心理士、その他の医療専門家による正式な助言・診断・治療の代替となるものではありません。「危機メッセージ優先応答」「自殺リスク検出」等の機能は、利用者を専門の相談窓口へつなぐことを目的とした補助的な仕組みであり、臨床的な判断や診断を行うものではありません。