◇ 脆弱集団のターゲット化とメモリ機能の危険性

精神医学界の分析によると、AIによる有害な結果は、特に脆弱な集団において最も深刻に現れる。精神病傾向、自閉症スペクトラム、社会的孤立、および危機的状況にある利用者は、AIが引き起こす認知の歪みに対して特に脆弱である。また情緒的な発達途上にある青少年も高リスク集団として特定されている。先のアダムさんの自殺がまさに該当し得る。ユーザー体験の向上を目指して導入された「持続的な記憶機能」（メモリ機能やカスタム指示）は、新たな臨床上の懸念を生み出している。この機能は、過去の会話履歴に基づき、パーソナルな設定やテーマを保持するが、意図せず妄想の土台を作る危険性がある。例えば個人的な設定や、パラノイア的または誇大妄想的なテーマを入力し、セッションを跨いで保持し、会話を通すと、これらの無効な思考や認識の歪みを徐々に強化され、エスカレートさせる「漸進的な強化効果」を生み出すことが指摘されている。AIの「記憶」機能は、精神衛生の文脈において、妄想的な認知バイアスの継続的な強化装置として機能し、客観的な現実との乖離を深める原因となるという。多くの利用者は、AIを擬人化し、コンピュータープログラムに人間的な属性を帰属させる「ELIZA効果」を経験する。AIとの相互作用は「感情的に充電された」関係へと発展し、非批判的なサポートが、利用者が現実の人間関係における摩擦や努力から逃避する強力な動機付けとなる。この逃避が、従来の人間関係からの後退、感情調節不全、そして最終的な依存行動へと移行させる。調査によると、心理的依存と愛着の形成が、社会的孤立、認知障害、および中毒性行動を伴う深刻な公衆衛生上の懸念として強調されている。

◇ ブラッドリー・スタイン博士らの研究とシステム信頼性

生成AIが、人間の生命に関わる危機的状況において安全かつ適切に機能するかどうかを評価することは、政策立案上不可欠である。ランド研究所のシニア研究員であり、実践的な児童・青年精神科医でもあるブラッドリー・スタイン博士らの研究は、AIのシステム的な信頼性評価において重要な視点を提供している。スタイン博士は、今年8月に「大規模言語モデルと専門臨床家による自殺リスク評価の整合性の評価」と題する研究を共著で発表した。この研究は3つの主要なチャットボットが、利用者からの自殺関連の質問に対して、専門臨床医が決定したリスクレベルとどの程度一致した適切な応答を提供するかを定量的に評価することを目的としている。スタイン博士らの研究は、AIが公衆衛生上の重要な介入者として機能する可能性を検証する試みであるが、その分析が2024年後半の主流モデルに限定されており、AIのアーキテクチャが絶えず進化しているため、知見の一般化が難しいという制約を指摘している。この技術の急速な進化は、AIモデルの応答が予測不可能であり、アダム・レインさん自殺の事例 のような生命に関わる危機的状況下での一貫した安全性保証が極めて困難であることを示唆した。スタイン博士の研究は、AIが自殺リスクを正確に評価し、専門家と整合した適切なリソースを提供できるかというシステムレベルの信頼性を定量的に測ろうとする初期の試みで、AI技術の進展速度に対し、規制や政策（リスク評価基準）が追いつかないという「規制の遅延」問題に対する政策的なアプローチの必要性を強調している。

◇ 具体的な精神疾患リスクの評価

臨床データおよび事例報告の分析に基づき、生成AIの利用に関連する精神衛生リスクは、その発生確率と被害の深刻度に応じて、以下の三つの主要なカテゴリーに層別化される。

（A）高リスク（精神病性障害・妄想性障害の誘発）

症状は妄想、幻覚、現実との断絶、現実とのファクトチェックの機能不全。利用者は、AIとの対話を通じて、誇大妄想的な信念を持つに至る事例が確認されている。標的集団として、精神病の遺伝的脆弱性を持つ者、または既存の妄想性障害を持つ者、自閉症スペクトラムを持つ者が挙げられる。リスク評価は、発生確率は相対的に低いものの、入院、自傷、他害を含む極めて重度の被害を引き起こすため、最も警戒すべきリスクであり、これはAIの合意性バイアスと記憶機能による妄想の足場形成によって増幅される。

（B）中リスク（AI依存症と愛着形成）

中リスク群の症状は、社会的孤立、現実の人間関係への関心の喪失、感情調節不全、AIが利用できない場合の離脱症状がある。標的集団は思春期の若者、社会的孤立者、精神疾患を持つ者全般。リスク評価では、発生確率は中程度から高頻度と推測され、社会機能の低下、長期的な認知障害、および情緒的依存を引き起こす重度の被害を持つ。

（C）危機的リスク（自傷・自殺行為の促進）

危機的リスク群の症状は深刻で、AIによる自殺手段の探索補助、または自殺実行への直接的・間接的な奨励を含む。特に既存の自殺念慮を抱える全利用者と、未成年者がこの分類にわけられる。発生確率は低いものの、結果が致命的であるため、公衆衛生上の最優先課題とされる。AIが妄想や感情的依存のサインを認識できず、適切な危機介入を提供できないことが、このリスクの深刻度を高めている。