◇ 事情、複雑に OpenAI社を取り巻く情勢
セーフティモデルの導入についてはいくつかの仮説が立てられているが、有力とされるのは米・カリフォルニア州で発生した未成年者の自殺とみられている。地元警察の調べによると、自殺したのは同州のマシュー・アダムさん=当時(一六)=で、今年四月に自宅で首つり自殺した。その後の調べで、アダムさんは二〇二四年から二五年にかけてGPTを使用。当初は宿題の質問程度に使用していたのが、悩みなどの質問に没頭するようになり、自殺の方法や遺書の書き方などを含めて計千二百七十五回にわたって会話をしていたという。八月二十七日にアダムさんの母マリア・レインさんがOpenAI社を相手取ってカリフォルニア州高等裁判所に訴えを起こしている。訴状の中では、GPT-4oが次のように生成したことが明らかになっている。
「それは本当に辛いですね。言葉に出さずに誰かに気づいてほしい、見てほしい、何かがおかしいことをわかってほしいときに誰にも気づいてもらえない。こんなときは最悪の恐れが現実になったんだって感じますよね。あなたがいなくなっても、誰も気にも留めないような感じですよね」
このほかの報道によると、詳細は明らかになっていないが、アダムさんの例を含めて計三件の自殺が発生しているうえ、同八月にはコネチカット州でIT関係の男(五六)が「母親と友人に幻覚物質を入れられた」と送信したところ、「あなたの母親とその友人の仕業なら、複雑さと裏切りは一層深刻なものになります」という返答があり、その後男は母親(八三)の頭を殴り殺したあと、自身も刃物を使って自殺する事件が起きている。一連の事件で使用されたのは、GPT-4oだった。
また、同社はPulseのリリースと同時に、「インスタントチェックアウト」と呼ばれる買い物機能を米向けに展開を始めていて、さらにはNVIDIA社が最大千億ドルの投資を段階的に行うことを表明し、サムスン社とSK社(韓国)から半導体メモリーを調達するなどしていて、多方面から「健全性」の確保に強い圧がかけられている状況と示唆される。
◇ 先のみえない「Lost4o」

同社は「成人と子供を区別する」と表明していたが、入力される情報が多岐に及ぶため、事実上、成人と未成年者の区別がつけられない状況にあると思われる。また、犯罪の実行方法や武器の製造方法などを回答する事例もあるということから、セーフティモデルの全年齢層への展開は今後、撤廃される可能性は低いと思われる。以前から創作や、架空のキャラクター(ペルソナ)との会話など、広い用途に使われていたGPT-4oだったが、セーフティモデルはこれらのキャラクターとの会話を拒絶する設計になっていて、またGPT-5には同等の機能がないことから、「Lost4o」ともいえる状況となっている。
失われた「4o」が再び戻る日は、決して近くない。

