• 会員限定
  • 2023/09/25 掲載

生成AIの基礎知識、“使いたおす”前に知っておくべき「エンコーダー」とは

連載:野口悠紀雄のデジタルイノベーションの本質

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
ChatGPTやBing、Bardなどの生成AIを正しく使うには、おおよその仕組みを知っておく必要がある。AIと人間のすみ分けを考える意味でも、仕組みを知ることは大きな意味を持つ。では、それら大規模言語モデル(LLM)は、どのようにして自然言語を理解しているのか?
執筆:野口 悠紀雄
photo
生成AIをうまく活用するには、その仕組みを理解する必要がある
(Photo/Shutterstock.com)

LLMの仕組みを知っておくべき納得理由

 大規模言語モデル(LLM)と呼ばれるものは、人間の自然言語による問い合わせや指示に対して、自然言語で答えを示してくれる。ただハルシネーション(幻覚)という現象によって、固有名詞や統計データなどに関しては、答えの内容がときどき間違っていることがある。しかし、基本的にはかなり正確だ。

 人類は、これまで利用できなかった新しい強力な道具を手に入れたことになる。これが我々の社会に甚大な影響を与えることは間違いない。では、LLMは、なぜ自然言語を操れるのか?

 その仕組みを、すべての人が詳細に知っている必要はない。しかし、おおよその仕組みを知っていることは必要だ。なぜなら、LLMは何ができて何ができないか、を判断するためには、こうした理解が不可欠だからだ。

 LLMの能力が高いからといって、人間の仕事のすべてを取り上げてしまうわけではない。どのような仕事が人間にしかできないのか、を正しく知ることは、今後の人生設計にとって極めて重要な意味を持つ。

 その半面で、LLMが、人間より正確かつ高速でできる仕事は、これから急速にLLMに置き換えられるだろう。そうした仕事に執着するのは得策ではない。LLMができない仕事に転換すべきだ。このような判断をするために、LLMに関する基礎知識が必要だ。

 また、LLMを適切に使うためにも、以上のような理解が重要な役割を果たす。たとえば、どのようなプロンプトを書けば、ハルシネーションを避けることができるか? そして、正確で適切な答えが得られるのか?

 やみくもに生成AIを使っても、仕事の能率が上がるとは限らない。それだけではない。誤った答えを信用して使えば、甚大な被害を受けることもある。そのため、LLMの限界についても、正確に把握する必要がある。

粗雑すぎる「トランスフォーマー」の一般的な説明

 ChatGPTなどの基礎になっているのは、「トランスフォーマー」という仕組みだ。したがって、ChatGPTなどを適切に使うためには、トランスフォーマーのおおよその仕組みを知っている必要がある。これを以下に解説する。

画像
なぜ、ChatGPTなどは自然言語を理解できるのか
(Photo/Shutterstock.com)

 ChatGPTなどの動作ついてしばしば行われる説明は、「ある単語の次に来る確率が高い単語を並べて文章の続きを生成していく」というものだ。この説明はまったく間違いとは言えないが、あまりにも粗雑だ。

 たとえば、「ゲティスバーグの戦いで」という文章に続く言葉として最も確率が高いのは、「リンカーン大統領は」だろう。しかし、すべての場合にそうであるわけではない。まったく別のことを論じている文章は、いくらでもある。だから、最も高い確率の文章をつなげるだけで役に立たないことは、明らかだ。

 そして、このような理解では、ChatGPTの使い方の示唆は得られないだろう。では、LLMは一体どのようにして機能しているのか?

photo
photo
次のページでは、知っておくべきLLMの詳細な仕組みについて解説します
【次ページ】知っておくべきLLM(1):「エンコーダー」「デコーダー」とは

関連タグ タグをフォローすると最新情報が表示されます

関連コンテンツ

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます