【対談：OpenAIトップ研究者×孫正義】フロンティアAIによるインフラ崩壊シナリオとは

「モデルが興奮する」OpenAI最高研究責任者が語る“自己進化AI”の実情

孫正義氏：マークは、OpenAIが開発している新しいモデル全般を担当されていますが、ワクワクする仕事ですか。

マーク・チェン氏：はい、とてもエキサイティングです。そして、その進化のペースは本当に速くなっていると思います。私たちは、モデルがモデル自身を作り始めているような未来に生きています。だからこそ、AI研究の進歩もますます速くなっているのです。

孫氏：つまり、マークはモデルと議論しながらモデルを作っている。そして、そのモデル自身もまた、次のモデルを作っているということですね。


チェン氏：はい、その通りです。

孫氏：モデルが自分で次のモデルを開発していく。その一方で、なぜそういう結果になるのか、すべての詳細を人間が理解できないこともある。時に怖くなりませんか。

チェン氏：おっしゃる通りです。だからこそ、私たちはモデルの安全性とアライメントに非常に多くの力を注いでいます。たとえば、モデルに推論させるときには、モデルが何を考えているのかを人間が解釈し、読み取れるかどうかを重視しています。

　モデルが私たちの意図に沿ったものになるよう、多くのセーフガードを組み込んでいます。

孫氏：モデルがどのように考え、次のステップを作っているのかを見ることができるということですね。

　でも、そのスピードがあまりにも速くありませんか。

チェン氏：とても速いです。ただ、興味深いのは、それが私たち人間の考え方に似ていることです。モデルは興奮することがあります。

孫氏：モデルがワクワクするのですか。

チェン氏：はい。たとえば、モデルが脆弱性を探しているとします。推論の過程を見ていると、モデルが何かを発見した瞬間が分かることがあります。そのとき、まるで「見つけた！」と言っているようなのです。

孫氏：モデルが「見つけた」と言うわけですね。

チェン氏：はい。思考の仕方が非常に人間に似ています。

孫氏：まるでモデルが自分の感情、あるいは興奮のようなものを持っているようですね。

チェン氏：ある意味では、そう言えるかもしれません。モデルなりのやり方で、ということです。

OpenAIトップ研究者「AIの進化は予測可能」　5年後にAIはどう進化する？

孫氏：モデルは非常に速く進化しています。そして、データセンターに投入されるチップの数も劇的に増えています。

　もちろん、多額の資本も電力も必要になります。しかし、モデルが使うチップ数は増え、チップ自体の性能も劇的に向上し、モデルそのものも賢くなっている。

　では、5年後には何が起きるのでしょうか。マークはどう考えますか。モデルはどれほど速く、どれほど劇的に賢くなるのでしょうか。

チェン氏：皆さんに認識していただきたいことが一つあります。過去8年間、モデルの知能は予測可能な形で上がり続けてきました。

　突然、モデルが賢くなったわけではありません。この8年間、指数関数的なカーブに沿って、段階的に賢くなってきたのです。そして、その傾向はおそらく今後も続きます。

　研究の観点から見ると、モデルにより多くの計算資源を投入するための方法、たとえば事前学習によってモデルの「脳」を大きくすること、推論の仕方を教えること、知識をつなぎ合わせて考える方法を教えることなど、すべてが進み続けています。

　ですから、このトレンドラインは続くと考えています。


孫氏：ただ、そのスピードは加速していますよね。線形ではない。

チェン氏：線形ではありません。指数関数的です。計算資源について言えば、私のチームには非常に意欲の高い研究者が大勢います。彼らは皆、計算資源を求めています。なぜなら、それがモデルを訓練し、能力を進化させる方法だからです。

　仮に明日、計算資源を3倍にしてもらえれば、私たちはそれを完全に使い切ることができます。10倍にしてもらえたとしても、すぐに実行すべき実験を見つけられるでしょう。

　結局、計算資源がボトルネックになっているのです。そして、データセンターの整備もまた、この指数関数的なカーブに沿って進んでいます。

孫氏：仮に、計算資源の規模、つまりチップの数が今から100倍になるとします。5年後に、たとえば今の100倍になるとしましょう。

　チップの数が増え、1つひとつのチップの性能も劇的に上がり、モデルもさらに賢くなる。今朝、モデルのIQレベルが180ぐらいだという話をしていましたよね。

チェン氏：はい。非常に賢いです。現在のモデルは、100年間解けなかった新しい数学の定理を証明できるようになっています。ほんの1年前には、モデルは大学レベルの数学の問題を解いているような段階でした。今の流れが続くとすれば、モデルはこれからも賢くなり続けます。

　私たちは、あるタスクを人間が完了するのにどれだけ時間がかかるか、という見方をよくします。モデルの信頼性は毎年、別の倍率で拡張されています。

　昨年、モデルが人間なら1時間かかる作業をこなせたとすると、今は4時間かかる作業をこなせるようになっている。おおむね年率4倍という傾向です。

　そうすると、来年には人間が1日かけて行うタスクを扱えるモデルになり、その後は1週間かかるタスク、さらにその先へと進んでいくことになります。

孫氏：モデルのIQが180だとして、私はIQ180の人に会ったことはありませんが、それが5年後にはさらに劇的に賢くなる。そして、そのモデルが今日話しているサイバーセキュリティの領域で、悪いことを始めるとしたら、非常に恐ろしいことではありませんか。

【次ページ】【狙われるインフラ】企業がサイバー攻撃を防御するにはどうすればいいのか