• 会員限定
  • 2024/02/22 掲載

動画生成AI進化で「劇的深刻化」、ディープフェイクや音声クローン詐欺とその対策

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
OpenAIが発表した動画生成AI「Sora」の驚くべきクオリティが大きな話題を呼んでいる。こうしたAI技術の進化に伴い、ディープフェイクや音声クローン技術も大きく向上している。2024年は、これらの技術が選挙や大型イベントでの詐欺・ディスインフォメーションなどに悪用されるケースが急増するとみられており、セキュリティベンダーの商機にもなりそうだ。ディープフェイクと音声クローン技術はどのような進化を遂げているのか、またどのような悪用リスクが想定されるのか、対策の状況と合わせてまとめた。

執筆:細谷 元、構成:ビジネス+IT編集部

執筆:細谷 元、構成:ビジネス+IT編集部

バークリー音大提携校で2年間ジャズ/音楽理論を学ぶ。その後、通訳・翻訳者を経て24歳で大学入学。学部では国際関係、修士では英大学院で経済・政治・哲学を専攻。国内コンサルティング会社、シンガポールの日系通信社を経てLivit参画。興味分野は、メディアテクノロジーの進化と社会変化。2014〜15年頃テックメディアの立ち上げにあたり、ドローンの可能性を模索。ドローンレース・ドバイ世界大会に選手として出場。現在、音楽制作ソフト、3Dソフト、ゲームエンジンを活用した「リアルタイム・プロダクション」の実験的取り組みでVRコンテンツを制作、英語圏の視聴者向けに配信。YouTubeではVR動画単体で再生150万回以上を達成。最近購入したSony a7s3を活用した映像制作も実施中。
http://livit.media/

photo
ディープフェイクと音声クローン技術は今どのように進化?
(Photo/Shutterstock.com)

ディープフェイク/クローンツールの現状

1ページ目を1分でまとめた動画
 2024年は米国大統領選挙をはじめ、メキシコ大統領選、インド総選挙、ロシア大統領選、日本の自民党総裁選などの重要選挙、パリ五輪などの世界的イベントが控えている。こうしたイベントに乗じて増加が見込まれているのがオンライン詐欺やフェイクニュースの拡散だ。

 今年はAIや生成AIによって進化したディープフェイクや音声クローン技術が駆使されることが見込まれている。

 ディープフェイクは生成AIトレンドが起きる数年前から利用されており、それ自体は目新しい技術ではないが、生成AIによって精度が向上した技術と組み合わさることで、特定の人物があたかも本当に動き・話しているかのような動画・音声・画像を作成することが容易になっており、オンライン詐欺やフェイクニュース作成の巧妙化が懸念されている。

 最近注目されたケースとしては、著名YouTuberのMr.ビーストの偽広告動画がTikTokで拡散した事件が挙げられる。2023年10月、TikTokにMr.ビーストの偽広告動画が投稿された。

 この偽広告動画は、Mr.ビーストが1万台のiPhone15 Proを2ドルで提供するというもので、クリックを促し偽サイトに誘導することが目的だったとみられている。

 偽サイトは、Mr.ビーストの公式サイトを真似たデザインとなっており、ユーザーはiPhone15 Proの代金2ドルを支払うために、氏名、住所、クレジットカード情報、銀行口座ログイン情報を入力することを求められたという。

ディープフェイク/音声クローンを使った偽広告動画をMr.ビースト本人が注意喚起した

 この偽広告動画ではおそらく、オリジナル動画の人物の顔を特定人物の顔に入れ替える「フェイススワップ」と、特定人物の声を人工的につくりだす「音声クローン」技術が悪用されたと考えられる。

 ディープフェイク/音声クローンツールはクリエイティブワークや生産性を向上させる目的で開発・提供されているが、ツールの増加、精度の向上に伴い、悪用するケースも増えているのが現状となっている。

ディープフェイク動画市場は36%以上で成長

 最近になりYouTubeやTikTokなどの動画プラットフォームでは、ディープフェイクや音声クローンツールを使ったコンテンツが急増、またハウツー動画も増えており、ディープフェイク・ソフトウェアに興味を持つ人の数も増加傾向にある。

 こうした関心の高まりもあり、ディープフェイク・ソフトウェア市場は今後5年間36%以上という驚異的なスピードで成長することが見込まれている。

 市場調査会社360 Market Updateは、2022年のディープフェイク・ソフトウェア市場の規模は5,432万ドルにとどまるものだったが、今後5年間、年平均36.34%で拡大し、2028年には3億4,890万ドルに拡大すると予想している。

画像
ディープフェイク・ソフトウェア市場は急拡大が見込まれている

 この高成長の原動力の1つになっているのがポルノ産業であるという。世界のポルノ産業規模は、およそ970億ドル。米国では年間140億ドルの収益が生まれている。ディープフェイク動画の検知を専門とするSensity AIは2018年以来、オンラインにおけるディープフェイク動画の動向を調査しているが、ディープフェイク動画の90~95%が同意なしのディープフェイクポルノ動画であると報告している。

 スマートフォン向けのディープフェイクアプリケーションが多数登場していることも、ユーザーの増加や市場拡大に寄与する要因となっている。

 代表的なものとしては、Avatarify、Reface、FaceApp、MorphMeなどが挙げられる。Avatarifyは、アンドロイドとiOSで利用できるスマホアプリ。ディープラーニング技術を活用し、指定した顔画像に表情を与え動画に変換することができる。Refaceは、スマホで自分の顔写真を撮影すると、その写真を広く出回っているネットミームやGIF画像の著名人と入れ替えることができるアプリ。数ステップと比較的簡単にディープフェイク動画を作成することが可能だ。一方、FaceAppは、指定された顔画像の表情、年齢、髪型、メークなどを入れ替えることができるアプリだ。

 AvatarifyはiOSだけで3万7000件以上、Refaceも3万件以上のレビューを獲得しており、広く普及していることが分かる。FaceAppに至っては、ダウンロード数5億回、レビュー数150万件を超えている。基本的にこれらはエンターテイメントを目的とするアプリだが、悪用されているのかどうかを検知する仕組みは組み込まれておらず、詐欺などに悪用されている可能性はゼロとは言い切れない。

 またより強力なPCベースやウェブベースのツールも多数存在しており、ディープフェイクコンテンツを作成するには事欠かない環境が整いつつある状況だ。 【次ページ】選挙キャンペーン向けツールが登場、進化するクローン技術

関連タグ

関連コンテンツ

オンライン

Slack AI Day

Slack AI の日本語ローンチを祝し、革新の軌跡を振り返り、未来への一歩を踏み出す特別なイベントを開催します。 「コミュニケーションの先の未来を再定義する」というテーマのもと、Slack はメッセージングツールから AI を活用した強力なプラットフォームへと進化しました。 私たちの働き方を根本から変えるこのプラットフォームでは、CRM やアプリケーションの複数同時活用が可能で、 あらゆるデジタル業務が Slack を通じて円滑に進行します。 また、AI の強化により、過去の会話や見落としていた情報を活用して、ワンクリックで最適なコミュニケーションを実現することができます。 この記念すべきイベントでは、「新しい働き方」と業務における生成 AI の活用に焦点を当てます。 Slack AI を通じて、私たちは日常の業務プロセスを根本から変革し、生産性の飛躍的な向上を目指します。 AI とオートメーションの融合が、時間を要する従来のプロセスを一新。 Salesforce の Customer 360 と連携した Slack で働き方が劇的に変わります。 Slack を愛用し続けてくださる皆さま、そしてこれから Slack をご利用してくださる皆さまと共に、AI による業務効率化の新時代を創ります。 進化を遂げた Slackと一緒に、未来の働き方を再定義し、その可能性を探求しませんか? 【このような方におすすめです】 ・業務における生成 AI の活用を模索している方 ・より効率的な働き方・チームコミュニケーションを模索している方 ・Slack でできることを知りたい方、Slack の利用を検討している方 ・Slack を使っているけど、"コミュニケーション" 以外の新しい利用価値を知りたい方 ・部門・プロジェクトごとの部分的な Slack 利用から組織全体へ広げていきたい方 ・Slack 無償版から有償版へ切り替えたい方

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます