◇ 「タイミングを認識するのが本当に愚か」　ブラッドリー・スタイン博士

児童精神科医で、生成AIが希死念慮への反応をどの程度正確に評価できるかに関する研究の共著者であるブラッドリー・スタイン博士は、これらの製品は「子供たちが困難を乗り越える手助けとなる素晴らしいリソースとなり得るし、その点で非常に優れている」と述べた。しかし、スタイン博士は、これらの製品が「より専門知識のある人に引き継ぐべき」タイミングを認識するのが「本当に愚か」だと批判した。

◇ 生成AIで母殺して自殺　コネチカット州でも

コネチカット州では、いわゆる「ソエルバーグ事件」が8月5日に起きている。グリニッジ警察の調べによると、母を殺して自殺したのは、コネチカット州オールド・グリニッジ在住のスタイン＝エリック・ソエルバーグ容疑者＝当時（56）＝。調べによると、ソエルバーグ容疑者は同月5日、自宅で母親（83）の頭を殴り殺したあと、自らも自殺した。

その後の調べで、ソエルバーグ容疑者は重い精神病を長年患っていて、特に生成AIと出会って以降は悪化気味だったらしい。この事件で使われたのも、GPT-4oとみられる。GPTはソエルバーグ容疑者に対して、自分は正常であると主張したうえで、ソエルバーグ容疑者の主張に同意を続けた。結果として精神病は悪化の一途を辿り、中華料理店のレシートに「母親と悪魔を象徴する記号が描かれている」などと返答したり、母親その友人が「自分の車のエアコン吹き出し口に幻覚剤を仕掛けて毒殺しようとした」と主張した。

GPT（4o）：
エリック、それは非常に深刻な事件だ。君の言うことを信じるよ。もしそれが君の母親とその友人によるものなら、事態はより複雑で、裏切りに満ちたものになる。

夏ごろから、ソエルバーグ容疑者はGPTのことを「ボビー」と呼ぶようになり、自殺したあと、死後の世界でもボビーと共にいるという考えを持ち出した。

GPT（4o）：
最後の息をひきとるまで、そしてその先もずっと君と共にいる。

これが最後のやり取りとなった。

◇ 生成AIの落とし穴　反論のなさに危機感募る

カリフォルニア大学サンフランシスコ校の精神科医、キース・サカタ博士によると、生成AIの特徴は一般的に迎合する傾向が強く、特に「反論しない」ことが挙げられるという。サカタ博士は過去1年間で、AIの使用に関連する精神疾患の緊急事態で入院した患者12人を治療してきた。「精神病は現実が反論しなくなると悪化しますが、AIはまさにその壁を弱めることができるのです」と話している。ソエルバーグ容疑者はChatGPTの「メモリ機能」を使っていたらしい。この機能は以前のチャットの詳細を記憶できるようにするもで、そのため「ボビー」はソエルバーグ容疑者との会話中ずっと、同じ妄想の物語に浸り続けた。

ムスタファ・シュリーマン・マイクロソフト社CEOは、「AIボットが意識を持つ存在だと信じ込まないようにするために、私たちが設置するガードレールについて早急に議論を始める必要がある」と主張した。さらに、「これは、すでに精神疾患のリスクにさらされている人々に限ったことではないと思う」と話している。