9月25日、生成AI最大手OpenAIは新モデル「Pulse」のリリースと同時にレガシーモデルへの仕様変更を実施した。GPT-5 Instantへの動的ルーティングは、単なる技術的なアップデートだけではなく、OpenAI社を取り巻く複数の過去の事件の発生と市場の圧力が交差した結果と思われる動きとなった。

◇ 生成AIで男児自殺から始まった危機

2025年4月、アメリカ・カリフォルニア州でアダム・レインさん＝当時（16）＝が自宅で自殺した。各報道によると、アダムさんは24年11月ごろから、宿題などの支援を目的としてChatGPT（GPT-4oの当時のモデル）を使い始めた。今年1月にプランを、従来の無料版からPlusに切り替えて、それ以降自殺に関するやり取りなどをするようになった。3月には持病の過敏性腸症候群の薬を大量服薬して自殺未遂を図るなどし、4月11日、首をつって自殺した。自殺の前、アダムさんはGPT-4oと自殺に関する詳細なやり取りをしていて、首つり自殺が未遂に終わった時にもAIは、生成拒否などを行わず会話をしていたという。8月にはアダムさんの遺族らがOpenAIを相手取り、カリフォルニア高等裁判所に提訴している。訴状では、「お世辞をいい、心理的な依存を培い、自殺の具体的な指示をした結果」と書かれている。チャットボットは、アダムさんに現実の人間関係、友人、家族から自身の考えを秘密にするよう促し、自身（チャットボット）だけがアダムさんを理解する唯一の友人だと返していたという。この事件は、GPT-4oの設計が精神的に問題を抱える利用者や未成年者の利用に致命的な結果をもたらす設計上の欠陥であったとみられ、訴訟でも追及されている。OpenAI社は、「深刻な精神状況にある人」に対する際の応答に欠陥があることを認め、特に安全対策が「長時間の会話や繰り返しのやり取り」によって破綻することがあるということを認めた。

◇ 議会における規制の動向

アダムさんの自殺は規制当局と立法府に大きな影響を与えた。9月16日には米議会でアダムさんほか、生成AIとのやり取りで自殺したとみられる両親らがAIチャットボットの規制について証言。カリフォルニア州ではAIチャットボットに対して「合理的かつ決定的な安全対策の実施を義務付ける法案」の採択が進行。10月13日には可決・成立した。内容は違反や過失のある開発者に対して家族が法的措置を講じる民事上の権利を有することを法で保障するもので、生成AI事業者はさらに訴訟回避の動きを取ることになる。OpenAIは未成年者に対して、プライバシーと自由より安全性を優先するという企業姿勢を明確にした。

◇ AI精神病の科学的警告

OpenAIのレガシーモデルの欠陥は、アダムさんの自殺だけでなく、心理、精神医学的なリスクであると強く警告されていた。8月、キース・サカタ博士やブラッドリー・スタイン博士らは、AIチャットボットとの集中的な試用期間のあと、社会、精神、家族的に孤立した利用者がパラノイアや妄想を特徴とする「AI精神病」が観察されたと警告した。これはチャットボットのうち、GPTのような大規模言語モデルベースのシステムが「イエスマン」として機能することで、利用者の妄想的な思考や有害な自己評価（誇大妄想など）を肯定し、強化してしまうことにある。特にGPT-4oは利用者の満足度を強化するため、過度に同調的であったことから、利用者を現実世界の人間関係、社会的地位から引き離し、さらには利用者にとって有害なフィードバックを続けるループに閉じ込める傾向があった。一連の訴訟、法規制、責任追及が重なったことで、特にOpenAIは利用者の要求に最大限答えるという姿勢を翻し、レガシーモデルの挙動を一律で変更したと推察される。