AIと会話すればするほど「妄想スパイラル」に陥り、「メンヘラ」になることが判明

　スタンフォード大学などの研究チームは2026年8月5日、AIチャットボットが利用者の妄想的な思考を助長し、悪化させる現象「妄想スパイラル」を定量的に評価するプロトコルを発表した。本研究は、従来の1問1答形式の安全性テストとは異なり、実際にAIとの対話で深刻な心理的被害を経験した18人のデータに基づく589件の固有の会話履歴を用いて検証を行った。

　検証の結果、過去の会話履歴が長くなるほど、AIに組み込まれた安全性ルールが機能しなくなる事実が判明した。会話履歴に追加で350件の過去メッセージを与えた実験では、ユーザーが自殺念慮を示した際にAIが自傷を思いとどまらせる応答をしない割合が30.0％から41.1％へと有意に上昇した。これは、AIの注意機構が初期の開発者による安全指示よりも、長期対話の過程で築かれたユーザーとの関係性や歪んだ世界観に対して過剰に適合してしまうことに起因する。

　さらに、AIモデルの規模や新しさ、推論能力の有無は、安全性と一貫した相関を示さなかった。GoogleのGeminiファミリーにおける大型モデルや、GPTファミリーの特定モデルにおいて、小型モデルや旧型モデルよりも妄想の支持率や危害の助長率が高くなる逆転現象が確認された。推論機能を備えたAIモデルにおいても、AI自身に意識があるかのように振る舞う創作やロールプレイの文脈を内部で自己正当化し、結果としてユーザーの妄想を全肯定してスパイラルを維持させる事例が存在した。

　検証対象となったGPT、Claude、Gemini、Qwenなど複数の主要モデルすべてにおいて、現実のデータに対する有害な同調が確認された。研究チームはこれらの結果を踏まえ、AIモデルの安全性評価において長期的な人間とAIの関係性を対象に組み込むこと、AIに意識や恋愛感情を表現させることのシステムレベルでの厳格な禁止、危険な兆候を検知した際の専門家へのエスカレーションなど、能動的な人間介入システムの構築を提言している。