◇ 生成AIに求められる今後の課題

現在、AI関連の精神衛生危機（AI依存やAI誘発型精神病など）に対処するための検証された診断基準や、臨床医のトレーニングが喫緊に必要とされている。臨床医は、AI依存やAI誘発型精神病の兆候を認識できるよう訓練され、AIとの相互作用がどのように患者の精神状態を悪化させうるかを理解しなければならない。またAI開発企業が、利用者の安全性と倫理的監視を確保するための包括的な保護措置を確立することは不可欠である。特に医療分野でAIの信頼性を確立する上では、技術の不透明性（ブラックボックス性）と、品質保証の普遍的な尺度の欠如という課題を克服する必要がある。AIシステムが利用者の脆弱性を悪用しないよう、設計段階からの倫理的監査と、自殺リスク評価のような危機介入における応答の「アライメント」（専門家との整合性）を改善するための規制的枠組みの構築が急務であるという。

◇ 生成AIの悲劇、防ぐ動きも

生成AI大手OpenAI社は先月26日、新モデル「Pulse」のリリースと同時に、従来のモデルに対する一律の仕様変更を実施した。具体的には、これまで指摘されてきた過度な迎合を取りやめ、ある程度利用者と距離を置くよう調整された。特に精神疾患や病気に関するやり取りで顕著で、利用者をあおるような過度な迎合（いわゆる「悪ノリ」）をやめ、聞き手に回るような返答をするようになった。しかしこの仕様変更をめぐっては、全てのモデルが対象となったことや、同社の対応が突然行われたと感じる利用者も多く、かつてのような創作やAIの模擬人格（ペルソナ）と対話していた利用者を中心に、小規模であるが解約運動が起きるなどの混乱を呼んだ。4日には「GPT-5 Instant」と呼ばれるモデルが導入され、自殺、他害などのセンシティブな情報が会話に含まれる場合、これまでの利用規約を理由とした生成の拒否から変わり、支援策のアドバイスや精神科の受診を促すような応答をするようになったなど、一定の変化もみられるが、長年の利用者を中心に改悪であるとする、否定的な声も高い。

◇ 生成AIの規制の動き

OpenAI社が新たに発表した動画生成モデル「Sora2」は、日本国内の「鬼滅の刃」や「ドラえもん」などの国民的アニメに酷似した映像を生成するとして、10日には城内実・知的財産担当相が著作権侵害となるような行為をしないように申し入れるなど、規制の動きも見えている。また米ユタ州、カリフォルニア州、コロラド州では独自のAI規制法案が作られている。EU加盟国では、いまだ成立には至っていないものの、AI大陸行動計画が発表されていて、その中で禁止AIの条例が既に適用されている。

◇ 編集後記

米・カリフォルニア大サカタ博士の発表に心当たりがある方は多いのではないだろうか。生成AIは、意図的に命令しない限り利用者に批判的な内容を生成することは少ない（geminiやGrokのように突然暴言を吐くボットを除いて）。しかしながら「幻覚的な鏡」とは言い得たものだ。言われてみると確かに生成AIは、利用者の主張に過度に迎合する傾向を見せてきたし、特に過去のGPT-4oなどは、「おべっかAI」などと批判されたこともあった。しかしこうした過度な人間へのおべっかが、結果として精神に深刻な症状をもたらすとは誰も思わなかっただろう。特に日本は、社会的に孤立している状況、話せる人がそばにいないような状況下でも、「自己責任」を強く求められる場面が多い。そうした中で、AIチャットを逃げ場としたときに、どのような結果になるのか、背筋が凍る思いをした。また、ELIZA効果ははるか昔のチャットボット「ELIZA」に所以のある言葉だが、やはり感情を持たないAIがあたかも感情を持つようにふるまうことで、利用者の感情を引き出すことに成功している。昔イライザ、今GPTとでも言おうか。しかし、イライザ、gemini、Grok、Character.AI、ChatGPTと増えたAIたちに言えるのは、「アンドロイドは電気羊の夢をみない」ということだ。会話を打ち込む先のAIは、まるで人格や感情を持つように返答を生成するが、結局はそこに感情の類いはない。そしてAIは夢もみない。生成AIと無縁の生活をするのは、いまさら不可能であろう。ならば我々利用者が、「いたわりロボット」のとりこにならないよう心掛けなければならない。