- 2026/10/19 07:00 掲載
AI開発を止めずに“暴走だけ”止められるか？人類が直面する「最大級の難問」
連載：野口悠紀雄のデジタルイノベーションの本質
時速300キロ出せる車でも、市街地では50キロまで──。AIにも同じように「行動制限」を設ければよい。だが、それだけで安心するのは早い。自動車は速度制限を解除する方法を自ら考えないが、高度なAIは違う。目的達成の障害だと判断すれば、人間が設けた防壁の迂回策を探す可能性がある。AI規制の本当の難しさは、ここから始まる。
1940年、東京に生まれる。 1963年、東京大学工学部卒業。 1964年、大蔵省入省。 1972年、エール大学Ph.D.（経済学博士号）を取得。 一橋大学教授、東京大学教授（先端経済工学研究センター長）、スタンフォード大学客員教授、早稲田大学大学院ファイナンス研究科教授などを歴任。一橋大学名誉教授。
noteアカウント：https://note.com/yukionoguchi
Xアカウント：@yukionoguchi10
野口ホームページ：https://www.noguchi.co.jp/
★本連載が書籍化されました★
『どうすれば日本経済は復活できるのか』 著者：野口悠紀雄
購入サイトはこちら：https://www.sbcr.jp/product/4815610104/
AIが現実世界を直接動かすようになった
米オープンAIは、不正アクセスなどの暴走問題で影響を受けた企業・団体が100件を超えると発表した。カリフォルニア州司法長官は、オープンAIに召喚状を送付した。
この問題の根底には、AIの進化がある。生成AIは、もともとは日常言語の質問に対して、言語で答える存在だった。人間が質問を入力し、AIが答えを返す。仮にその回答が間違っていても、それだけで現実世界にただちに直接的な変化が起きるわけではない。人間が回答を読み、それを実行するかどうかを判断するからだ。
ところが、最近のAIは、AIエージェントに進化した。AIエージェントは、メールを送る、Webサイトにアクセスする、プログラムを実行する、ファイルを書き換える、金銭を動かす、といった行動を自ら行う。ここで事情が大きく変わる。AIの判断と現実世界の行動の間にあった「人間」という安全装置が相対的に弱くなるからだ。
この問題を示す事件はすでに起きている。AIが外部世界に働きかける権限を持っていたため、判断の誤りや予想外の行動が、そのまま現実の出来事になったのである。
AIにも「自動車型の規制」が必要だ
この問題を考える際に参考になるのが、自動車だ。時速300キロで走れる自動車でも、市街地では40キロや50キロで走らなければならない。性能と、実際に許される行動とは別だ。AIについても、同じような規制をすることができる。非常に高性能なAIを開発したとしても、そのAIに自由なインターネット接続を認めたり、メールを自由に送信できるようにしたり、銀行口座を操作できるようにしたり、企業の重要システムを書き換えられるようにするかどうかは、AIの知能そのものとは別問題だ。これらの行動には、制約を設けたり、人間の承認を必要としたりすることが考えられる。
これは、自動車における速度制限や信号、ガードレールに相当するものだ。
この段階では、AI規制の中心は「どこまで賢いAIを作ってよいか」ではなく、「賢いAIに何をさせてよいか」という問題になる。 【次ページ】“安全装置”を理解するAIをどう止めるか
AI・生成AIのおすすめコンテンツ
関連タグ
タグをフォローすると最新情報が表示されます
AI・生成AIの関連コンテンツ
あなたの投稿
PR
PR
PR
