• 会員限定
  • 2024/01/04 掲載

生成AI活用で「必須すぎる」セキュリティ対策、事例に学ぶ具体的な対策手法とは

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
2023年はChatGPTをはじめとする生成AIが大ブレイクし、セキュリティ界隈での注目も集まっています。普通の社員がメール文面の作成やブログの執筆などの日常業務ですでに生成AIを使用している一方、CISO(最高情報セキュリティ責任者)は生成AIを取り入れるリスクに直面しています。CISOが求めているのは、「正確かつ安全」で、「無責任ではない」生成AIだからです。ですが、現在の技術でこうした求めに応じることができるのでしょうか。生成AIを業務で活用するメリットとリスク、さらには具体的なセキュリティ対策手法を解説します。

執筆:CrowdStrikeチーフサイエンティスト兼シニアバイスプレジデント スヴェン・クラッサー

執筆:CrowdStrikeチーフサイエンティスト兼シニアバイスプレジデント スヴェン・クラッサー

photo
生成AIの価値を最大限引き出すためのセキュリティ対策とは?
(Photo/Shutterstock.com)

新たなAIツールはすでに社員が利用している

 CISOとCIO(最高情報責任者)は、生成AIの登場を期待と懸念の両方も持って迎えています。生産性向上やスキル不足に悩むITチームとセキュリティチームの補強につながるといった生成AIの機能については十分承知しているものの、こうしたメリットとこの革新的なテクノロジーがもたらす新たなリスクを天秤に掛けて慎重に比較しています。

 ここでは、生成AIの自社環境への導入(自社の業務で活用する視点と自社のソフトウェアなどのプロダクトに組み込む視点)について、ITリーダーやセキュリティリーダーからよく寄せられる質問とその答えの一部を紹介します。

 まず、企業のセキュリティリーダーに現実をお伝えします。生成AIツールはすでに社内で利用されている可能性があります。だれでも非常に手軽に利用でき、日常的なタスクを簡素化できるからです。

 たとえば、営業担当者は見込み顧客に送るメールの優れた文面を必要としており、生成AIを使えばあっという間に書き上がります。サポートチームが必要とする組織のナレッジベース用の説明も同様です。

 マーケティングチームが必要とするパンフレット用の画像も、AIモデルにプロンプトで指示するだけで、ストック画像から最適なものを探し出すよりもずっと早く用意できます。

 急いでコードを記述しなければならないソフトウェアエンジニアにも、作業を肩代わりできる専用のモデルがあります。 こうしたユースケースがなぜ生まれているのか。それは生成AIによって、時間を節約し、生産性を高め、あらゆる部署の日常業務がもっと便利になる、という生成AIの抗えない魅力があるからにほかなりません。

画像
生成AIはすでにだれかが使っていると心得るべきだ
(Photo/Shutterstock.com)

生成AIのデメリット「ハルシネーション」とは?

 では、デメリットはどこにあるのでしょうか。第1に、こうしたツールの多くは、インターネット上でホスティングされているか、オンラインコンポーネントを使用しています。組織の専有データや顧客データを送信する場合、そうしたツールの利用規約には機密性、セキュリティ、コンプライアンスに関する記述がほとんどありません。

 さらには、送信されたデータがAIのトレーニングに使用され、見込み顧客の名前や連絡先が永久にモデルの重み付け用に残される可能性があります。つまり、生成AIツールを検討する際には、他社ベンダーが提供するツールを検討する際と同じ慎重さが必要なのです。

 重要な懸念の2つ目は、AIモデルが間違った情報をもっともらしく提供する「ハルシネーション」を起こす傾向があるという問題です。こうしたモデルは、トレーニングの過程で「正確な回答」ではなく、「正確そうに見える回答」を提供するよう条件付けされます。この問題が実際に起きた例として、裁判所に虚偽の判例を引用した書面を提出し、ChatGPTにだまされたと述べた弁護士の例が挙げられます。

 さらに、著作権に関するさまざまな問題もあります。最近の事例をひとつ挙げると、Getty Imagesは、同社の1200万点の画像を許可なくAIモデルのトレーニングに使用したとして、StabilityAIを提訴しました 【次ページ】自社ソフトウェアに生成AIのコードを組み込む場合の注意点

関連タグ

関連コンテンツ

オンライン

Slack AI Day

Slack AI の日本語ローンチを祝し、革新の軌跡を振り返り、未来への一歩を踏み出す特別なイベントを開催します。 「コミュニケーションの先の未来を再定義する」というテーマのもと、Slack はメッセージングツールから AI を活用した強力なプラットフォームへと進化しました。 私たちの働き方を根本から変えるこのプラットフォームでは、CRM やアプリケーションの複数同時活用が可能で、 あらゆるデジタル業務が Slack を通じて円滑に進行します。 また、AI の強化により、過去の会話や見落としていた情報を活用して、ワンクリックで最適なコミュニケーションを実現することができます。 この記念すべきイベントでは、「新しい働き方」と業務における生成 AI の活用に焦点を当てます。 Slack AI を通じて、私たちは日常の業務プロセスを根本から変革し、生産性の飛躍的な向上を目指します。 AI とオートメーションの融合が、時間を要する従来のプロセスを一新。 Salesforce の Customer 360 と連携した Slack で働き方が劇的に変わります。 Slack を愛用し続けてくださる皆さま、そしてこれから Slack をご利用してくださる皆さまと共に、AI による業務効率化の新時代を創ります。 進化を遂げた Slackと一緒に、未来の働き方を再定義し、その可能性を探求しませんか? 【このような方におすすめです】 ・業務における生成 AI の活用を模索している方 ・より効率的な働き方・チームコミュニケーションを模索している方 ・Slack でできることを知りたい方、Slack の利用を検討している方 ・Slack を使っているけど、"コミュニケーション" 以外の新しい利用価値を知りたい方 ・部門・プロジェクトごとの部分的な Slack 利用から組織全体へ広げていきたい方 ・Slack 無償版から有償版へ切り替えたい方

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます