ディープフェイク／クローンツールの現状

　2024年は米国大統領選挙をはじめ、メキシコ大統領選、インド総選挙、ロシア大統領選、日本の自民党総裁選などの重要選挙、パリ五輪などの世界的イベントが控えている。こうしたイベントに乗じて増加が見込まれているのがオンライン詐欺やフェイクニュースの拡散だ。

　今年はAIや生成AIによって進化したディープフェイクや音声クローン技術が駆使されることが見込まれている。

　ディープフェイクは生成AIトレンドが起きる数年前から利用されており、それ自体は目新しい技術ではないが、生成AIによって精度が向上した技術と組み合わさることで、特定の人物があたかも本当に動き・話しているかのような動画・音声・画像を作成することが容易になっており、オンライン詐欺やフェイクニュース作成の巧妙化が懸念されている。

　最近注目されたケースとしては、著名YouTuberのMr.ビーストの偽広告動画がTikTokで拡散した事件が挙げられる。2023年10月、TikTokにMr.ビーストの偽広告動画が投稿された。

　この偽広告動画は、Mr.ビーストが1万台のiPhone15 Proを2ドルで提供するというもので、クリックを促し偽サイトに誘導することが目的だったとみられている。

　偽サイトは、Mr.ビーストの公式サイトを真似たデザインとなっており、ユーザーはiPhone15 Proの代金2ドルを支払うために、氏名、住所、クレジットカード情報、銀行口座ログイン情報を入力することを求められたという。


　この偽広告動画ではおそらく、オリジナル動画の人物の顔を特定人物の顔に入れ替える「フェイススワップ」と、特定人物の声を人工的につくりだす「音声クローン」技術が悪用されたと考えられる。

　ディープフェイク／音声クローンツールはクリエイティブワークや生産性を向上させる目的で開発・提供されているが、ツールの増加、精度の向上に伴い、悪用するケースも増えているのが現状となっている。

ディープフェイク動画市場は36％以上で成長

　最近になりYouTubeやTikTokなどの動画プラットフォームでは、ディープフェイクや音声クローンツールを使ったコンテンツが急増、またハウツー動画も増えており、ディープフェイク・ソフトウェアに興味を持つ人の数も増加傾向にある。

　こうした関心の高まりもあり、ディープフェイク・ソフトウェア市場は今後5年間36％以上という驚異的なスピードで成長することが見込まれている。

　市場調査会社360 Market Updateは、2022年のディープフェイク・ソフトウェア市場の規模は5,432万ドルにとどまるものだったが、今後5年間、年平均36.34％で拡大し、2028年には3億4,890万ドルに拡大すると予想している。


　この高成長の原動力の1つになっているのがポルノ産業であるという。世界のポルノ産業規模は、およそ970億ドル。米国では年間140億ドルの収益が生まれている。ディープフェイク動画の検知を専門とするSensity AIは2018年以来、オンラインにおけるディープフェイク動画の動向を調査しているが、ディープフェイク動画の90～95％が同意なしのディープフェイクポルノ動画であると報告している。

　スマートフォン向けのディープフェイクアプリケーションが多数登場していることも、ユーザーの増加や市場拡大に寄与する要因となっている。

　代表的なものとしては、Avatarify、Reface、FaceApp、MorphMeなどが挙げられる。Avatarifyは、アンドロイドとiOSで利用できるスマホアプリ。ディープラーニング技術を活用し、指定した顔画像に表情を与え動画に変換することができる。Refaceは、スマホで自分の顔写真を撮影すると、その写真を広く出回っているネットミームやGIF画像の著名人と入れ替えることができるアプリ。数ステップと比較的簡単にディープフェイク動画を作成することが可能だ。一方、FaceAppは、指定された顔画像の表情、年齢、髪型、メークなどを入れ替えることができるアプリだ。

　AvatarifyはiOSだけで3万7000件以上、Refaceも3万件以上のレビューを獲得しており、広く普及していることが分かる。FaceAppに至っては、ダウンロード数5億回、レビュー数150万件を超えている。基本的にこれらはエンターテイメントを目的とするアプリだが、悪用されているのかどうかを検知する仕組みは組み込まれておらず、詐欺などに悪用されている可能性はゼロとは言い切れない。

　またより強力なPCベースやウェブベースのツールも多数存在しており、ディープフェイクコンテンツを作成するには事欠かない環境が整いつつある状況だ。 【次ページ】選挙キャンペーン向けツールが登場、進化するクローン技術