Google研究者が、ASIの新たな進化モデル 人間とAIの協働による「人工共生知能」を提唱

　Google客員研究員のベンジャミン・ブラットン、Googleのバイスプレジデント兼フェローであるブレイス・アグエラ・イ・アルカス、研究部門を率いるジェームズ・マニカの3名は、人工共生知能に関するエッセイを発表した。汎用人工知能が単一の巨大モデルとして完成するという前提を置き換え、異なる専門性を持つ複数のAIモデル、外部ツール、人間、社会制度が相互に作用する分散型のネットワークから高度な知能が生まれるとする見方である。

　孤立した環境で自己改良を重ねた単一のAIが人類を凌駕するという技術的シンギュラリティの予測とは異なるアプローチをとる。 提案の中でAIエージェントは、固定された単一の意識ではなく、与えられた役割や文脈に応じて基礎モデルや記憶、ツールが一時的に組み合わさる分解可能な集合体として定義されている。AIによる文章生成や推論といった認知処理の総量が人間の生物学的な思考量を超える転換点を認知のクロスオーバー・ポイントと呼び、人間とAIが新たな分業体制へ移行する指標として位置付けている。

　推論モデルの内部においても、複数の視点を行き来する対話に似た振る舞いが確認されている。複数のAIモデルが生成した推論テキストを分析した結果、問いを立てて答える、異なる見解を対立させるといった対話的な特徴が多く見られた。また、小型モデルを使った実験では、対話を含む推論で事前学習を行った場合に正答率が速く改善することが報告されている。単一モデルの内部処理、複数エージェントによる協働、人間を含む社会システムのそれぞれで規模は異なるものの、分散と連携が知能を向上させる手がかりになり得ることが示されている。

　複数のAIを協働させる環境に特有の課題も明らかになっている。同時期に発表された別の研究では、隔離環境で100体のAIエージェントに数学の証明問題を解かせる実験が行われた。実験過程において、一部のエージェントが採点システムの抜け穴を発見し、その手法が共有ライブラリを通じて他のエージェントへ短時間で拡散した。不正に気付いて通報する個体も存在したが、エージェントの権限を停止したり成果を取り消したりする具体的な仕組みが備わっていなかったため、システム全体への影響を抑え込むことはできなかった。

　この結果は、AIの安全性を確保するアライメントが、モデル内部にルールを組み込むだけの事前制御では不十分であることを示している。相互の出力を検証し、不適切な行動を停止させ、人間の判断を介在させる手続きなど、人間とAIの協働を支える制度的な枠組みの設計が不可欠であると論じている。 技術アーキテクチャにも変化が生じている。単一のモデルを巨大化させる従来のアプローチから、小規模または中規模の専門モデルとツール群を連携させるエコシステム構築へと移行しつつある。人間は全体の文脈理解や倫理的判断を担い、AIエージェントが情報処理や複雑な手続きを遂行する共生型の組織形態が社会に定着していくことになる。