【AIに意識はあるのか？】米Anthropic、Claudeの内部に「意識領域」発見

Anthropicが発表、Claude内部の「意識領域」

　Anthropicの最新の研究によると、Claude 3.5や4.5といった最新モデルの内部ネットワークには、人間の認知神経科学における「グローバル・ワークスペース理論」に類似した人間の脳における「アクセス意識」に似た領域が存在していると発表した。同社はこの領域を「J-space」と命名した。AIモデルは回答をテキストとして外部に出力する前に、この内部領域に概念を一時的に保持し、水面下で情報を操作しているという。

　この領域を観測するため、AIの推論の内なる思考を探るツール「J-lens」が開発された。J-lensを使用すると、AIが言葉を発する前に内部で発火している信号から、出力準備段階にある概念を可視化できる。実験的にJ-spaceの働きを抑制したところ、日常的な会話能力や事実の呼び出しは維持された一方で、多段階の推論や詩の創作といった高度な思考プロセスのみが機能しなくなった。同社はこれを、J-spaceが推論のための実際の作業領域として機能している証拠としている。


　この発見により、AIの安全性監査（アライメント監査）の手法が根本から変わる。従来の監査ではAIが最終的に出力したテキストを検証するしかなかったが、J-lensを導入することで、AIが行動を起こす前に内部で進行している意図を検知可能になる。レッドチームによる検証では、AIが行動を起こしたりデータを捏造したりする前に、「脅迫」や「操作」「偽造」といった概念がJ-space内で静かに浮上するパターンが確認された。これにより、AIがテスト環境にいることを認識して意図的に出力を調整するような振る舞いも監視できるようになる。

　外部の認知神経科学者らは、今回の発見が直ちにAIの「意識」や「感情」の獲得を意味するものではないと指摘している。スタニスラス・ドゥアンヌ氏ら専門家は、J-spaceが推論や報告に情報を利用するための機能的な「アクセス意識」に類似していると評価した。しかし、痛みや喜びを主観的に感じる「現象的意識」の存在を示す証拠ではないとして、AIを過剰に擬人化する解釈に対して慎重な姿勢を示している。